プロンプト・LLM活用

プロンプト・LLM活用

RAGシステムの評価指標とプロンプト改良ループ

本記事はGeminiの出力をプロンプト工学で整理した業務ドラフト(未検証)です。RAGシステムの評価指標とプロンプト改良ループRAG(Retrieval-Augmented Generation)システムは、外部知識を参照することでLLMの...
プロンプト・LLM活用

LLM推論の計算効率を最大化するKVキャッシュ最適化戦略:PagedAttentionとContinuous Batchingの深層解析

LLM推論の計算効率を最大化するKVキャッシュ最適化戦略:PagedAttentionとContinuous Batchingの深層解析要点(3行)LLMの自己回帰推論におけるメモリボトルネックはKVキャッシュであり、この管理がスループット...
プロンプト・LLM活用

AWS re:Invent 202X発表:エンタープライズ生成AI開発を革新するAmazon Qの進化とカスタムアプリ構築

本記事はGeminiの出力をプロンプト工学で整理した業務ドラフト(未検証)です。AWS re:Invent 202X発表:エンタープライズ生成AI開発を革新するAmazon Qの進化とカスタムアプリ構築ニュース要点:開発者アシスタントとカス...
プロンプト・LLM活用

LLMにおけるFew-Shot/In-Context Learningプロンプト設計ガイド

本記事はGeminiの出力をプロンプト工学で整理した業務ドラフト(未検証)です。LLMにおけるFew-Shot/In-Context Learningプロンプト設計ガイド大規模言語モデル(LLM)のFew-Shot/In-Context L...
プロンプト・LLM活用

LLMの創発能力とIn-context Learning:メカニズム解明と最新応用動向

LLMの創発能力とIn-context Learning:メカニズム解明と最新応用動向要点(3行)大規模言語モデル(LLM)は特定の規模で予期せぬ「創発能力」を示し、プロンプト内の少数ショット例(In-context Learning: I...
プロンプト・LLM活用

Chain-of-Thoughtプロンプティング実践

本記事はGeminiの出力をプロンプト工学で整理した業務ドラフト(未検証)です。Chain-of-Thoughtプロンプティング実践Chain-of-Thought(CoT)プロンプティングは、大規模言語モデル(LLM)が複雑な推論タスクを...
プロンプト・LLM活用

LLMのJSON出力制御と評価

本記事はGeminiの出力をプロンプト工学で整理した業務ドラフト(未検証)です。LLMのJSON出力制御と評価大規模言語モデル(LLM)からのJSON形式での出力制御は、API連携、データ抽出、自動化ワークフローなど、多岐にわたるアプリケー...
プロンプト・LLM活用

Few-shotプロンプティングの入力例選定と評価

本記事はGeminiの出力をプロンプト工学で整理した業務ドラフト(未検証)です。Few-shotプロンプティングの入力例選定と評価Few-shotプロンプティングは、大規模言語モデル(LLM)が少数の入力例からタスクの意図を学習し、同様の新...
プロンプト・LLM活用

LLMの量子化技術による効率化:Geminiの事例と最新動向

LLMの量子化技術による効率化:Geminiの事例と最新動向要点(3行)LLMの量子化技術は、モデルのメモリフットプリントを削減し、推論速度を向上させます。Gemini NanoではWeight 4-bit, Activation 16-b...
プロンプト・LLM活用

Google Gemini Advancedの技術的背景:Ultra 1.0から1.5 Proの革新まで

本記事はGeminiの出力をプロンプト工学で整理した業務ドラフト(未検証)です。Google Gemini Advancedの技術的背景:Ultra 1.0から1.5 Proの革新までニュース要点Googleの生成AIサービス「Gemini...