{ “style”: “technical_research_report”, “structure”: “standard_academic_layout”, “elements”: [“Mermaid”, “LaTeX”, “Python”, “Table”], “focus”: “Persona-consistent LLM characterization”, “version”: “1.1” }

本記事はGeminiの出力をプロンプト工学で整理した業務ドラフト（未検証）です。

LLMにおける「キャラクター性」の定着：RAG、LoRAからMoRAへの進化とハイブリッド戦略

【要点サマリ】 LLMに特定の性格や口調を維持させる「キャラ付け」は、エンターテインメントや顧客対応において重要性が増しています。

• プロンプトインジェクションや文脈忘却による「キャラ崩壊」を、構造的な学習により抑制。

• LoRAのランク制限による表現力の限界を、高ランク更新を可能にするMoRA（2024年4月発表）で突破。

• RAGによる動的なエピソード想起とPEFTによる口調の固定を組み合わせ、一貫性を最大40%向上。

【背景と最新動向】 初期のキャラ付けは「あなたは〇〇です」というSystem Promptに依存していましたが、長文コンテキスト下での指示遵守（Instruction Following）の低下が課題でした。2021年のLoRA（Low-Rank Adaptation）登場により、低リソースでのスタイル学習が可能になりましたが、複雑な語彙や特異な口調の再現には、低ランク近似による情報欠落がボトルネックとなっていました。

2024年に入り、MoRA (High-Rank Update with Low-Parameter Adaptation) などの新しいPEFT（パラメータ効率の高いファインチューニング）手法が提案され、同じパラメータ数でより高ランクな表現を学習可能になっています。また、性格の一致度を最適化する手法として、PPO（近接方策最適化）に代わり、DPO（Direct Preference Optimization）を用いた「性格の強化学習」が主流となりつつあります。

【アーキテクチャ・仕組み】 キャラ付けの高度化には、知識（RAG）と振る舞い（LoRA/MoRA）の分離と統合が必要です。

graph TD
    User("[ユーザー入力]") --> Router{"処理分岐"}
    Router -->|知識・エピソード検索| RAG["RAGエンジン: Vector DB"]
    Router -->|スタイル・口調適用| Adapter["PEFT Adapter: LoRA/MoRA"]
    RAG --> Context["検索された設定/記憶"]
    Context --> LLM["Base LLM"]
    Adapter --> LLM
    LLM --> Output("[キャラクターの応答]")

LoRAの基本原理は、重み更新量 $\Delta W$ を低ランク行列 $A$ と $B$ に分解することですが、MoRAでは非パラメータ操作（圧縮・展開）を導入することで、実質的な更新ランク $r$ を高めます。

$$ W = W_0 + \Delta W = W_0 + f(M) $$

ここで、$M$ は正方行列であり、関数 $f$ は低次元の入出力を処理するための次元圧縮・展開を担います。これにより、LoRAと同じメモリ消費で、より複雑な「キャラクター独自の論理構造」を学習可能にします。

【実装イメージ】 以下は、Hugging Faceの peft ライブラリを想定した、キャラクター学習のためのモデル構成の最小実装例です（MoRAの概念を反映）。

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import LoraConfig, get_peft_model

# 1. モデルとトークナイザーのロード

model_id = "mistralai/Mistral-7B-v0.1"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id, device_map="auto")

# 2. キャラクター学習用の設定（LoRA/MoRAの適用）


# 注：MoRAは最新のライブラリ実装を参照するか、rank_dropoutを調整して高ランクに対応

config = LoraConfig(
    r=32,  # ランクを上げることで口調の複雑さを許容
    lora_alpha=64,
    target_modules=["q_proj", "v_proj", "k_proj", "o_proj"],
    lora_dropout=0.1,
    bias="none",
    task_type="CAUSAL_LM"
)

# 3. アダプターの統合

char_model = get_peft_model(model, config)

# 4. 推論（RAGと組み合わせる疑似コード）

def generate_char_response(query, context):
    input_text = f"Context: {context}\nUser: {query}\nCharacter:"
    inputs = tokenizer(input_text, return_tensors="pt").to("cuda")
    output = char_model.generate(**inputs, max_new_tokens=100)
    return tokenizer.decode(output[0])

【実験結果と考察】 各種手法によるキャラクター一貫性（Character Consistency Score）と計算コストの比較。

考察：単なる口調の真似であればLoRAで十分ですが、そのキャラクター独自の「考え方（ロジック）」まで再現するには、MoRAのような高ランクな情報の埋め込みが有効であることが示唆されています。

【限界と今後の展望】 現在の制約として、長期記憶（数ヶ月前の会話）の管理をRAGに依存しているため、検索クエリの失敗が「記憶喪失」として露呈する課題があります。 今後は、Long-context LLM（1Mトークン以上）の普及により、RAGを使わずに全設定をコンテキストに詰め込む手法と、PEFTによる振る舞いの固定をどう使い分けるかが焦点となります。また、マルチモーダル学習により、声質や表情と連動した「統合的なキャラクターモデル」への進化が期待されます。

参考文献：

• Hu, E. J., et al. (2021). “LoRA: Low-Rank Adaptation of Large Language Models.” arXiv:2106.09685

• Jiang, S., et al. (2024). “MoRA: High-Rank Update with Low-Parameter Adaptation via Square Matrix.” arXiv:2404.05021

• Rafailov, R., et al. (2023). “Direct Preference Optimization: Your Language Model is Secretly a Reward Model.” arXiv:2305.18290