LLMのPE のバックアップ(No.20)

[ トップ ]   [ 新規 | 一覧 | 単語検索 | 最終更新 | ヘルプ ]

• バックアップ一覧
• 差分 を表示
• 現在との差分 を表示
• ソース を表示
• LLMのPE へ行く。
  • 1 (2024-09-19 (木) 14:24:21)
  • 2 (2024-09-19 (木) 17:27:38)
  • 3 (2024-09-19 (木) 17:55:55)
  • 4 (2024-09-24 (火) 09:51:27)
  • 5 (2024-09-24 (火) 14:40:56)
  • 6 (2024-09-25 (水) 16:16:54)
  • 7 (2024-09-25 (水) 20:01:55)
  • 8 (2024-09-27 (金) 10:52:52)
  • 9 (2024-09-27 (金) 14:55:44)
  • 10 (2024-09-27 (金) 19:03:22)
  • 11 (2024-09-30 (月) 09:25:44)
  • 12 (2024-10-17 (木) 15:29:03)
  • 13 (2024-10-24 (木) 09:34:45)
  • 14 (2024-10-24 (木) 17:56:09)
  • 15 (2024-11-25 (月) 15:33:50)
  • 16 (2024-12-09 (月) 11:44:17)
  • 17 (2025-01-15 (水) 14:52:43)
  • 18 (2025-02-13 (木) 15:32:00)
  • 19 (2025-02-14 (金) 17:17:15)
  • 20 (2025-02-14 (金) 18:20:58)
  • 21 (2025-02-17 (月) 11:36:44)
  • 22 (2025-02-18 (火) 11:21:03)
  • 23 (2025-02-18 (火) 16:08:58)
  • 24 (2025-02-19 (水) 12:55:01)
  • 25 (2025-04-25 (金) 10:32:58)
  • 26 (2025-05-07 (水) 13:27:44)
  • 27 (2025-05-19 (月) 14:21:20)
  • 28 (2025-07-09 (水) 10:57:30)

---

「.NET 開発基盤部会 Wiki」は、「Open棟梁Project」,「OSSコンソーシアム .NET開発基盤部会」によって運営されています。

• 戻る
  • OpenAI
    • ChatGPT
    • OpenAI API
    • Library
  • OSSのLLM
  • LLMのPE
  • LLMのRAG
  • LangChain
  • LlamaIndex
  • Dify、FlowiseAI
  • AutoGen

目次 †

概要 †

PE（Prompt Engineering）

• プロンプトとは利用者によるLLMへの入力の事。
• PEは、LLM出力を最適化するよう入力（プロンプト）を最適化するプロセス

基礎 †

• LLMは論理的に思考しているのではなく、次単語を確率的に予測し文書構築をしているに過ぎない。
• プロンプトとはコマンド（命令）を意味するが、実際は次単語予測のコンテキスト（文脈）を与えているに過ぎない。
• LLMが適切な回答が出来るのは「事実」や「論理的な思考の過程や産物」を、適切なコーパスによって学習しているに過ぎない。

超訳 †

• プロンプトエンジニアリングとはコンテキストを追加していくタスクと言える。
• 何故なら、確率的オウムである生成AIのLLMはコンテキストを与えることで適切に機能するためである。
• このプロンプト中のコンテキストは「指示」であったり「知識」であったりする。

• なお、指示や知識は
  • ユーザが与えるもの
  • LLM自身が与えるもの
  • その他、外部から与えられるもの

が考えられる。

• 具体例

• ユーザが与えるもの
  • 代表的なものにChatシステムがある。
  • Chatシステムでは会話履歴をプロンプトとして再利用している。 　
• LLM自身が与えるもの
  • 同様に、Chatシステムの会話履歴には、LLM側の知識が含まれる。
  • GKP、Self-Consistency、Self-Ask、ToT、AoTなどはLLM自身が知識を補ったり、解決手順を提案したりする。
  • ユーザが介さないため、自動化されたプロンプトエンジニアリングが可能。 　
• その他、外部から与えられるもの
  • RAGやRetrieveなど、外部リソースからプロンプトに対応した情報を抽出してプロンプトに加える。
  • ユーザが介さないため、自動化されたプロンプトエンジニアリングが可能。

• 自動化されたプロンプトエンジニアリング

• プロンプトフロー
  • ユーザが与える場合は、人手によるプロンプトエンジニアリングが必要になるが、
    そうでなければ、システムでによる自動的なプロンプトエンジニアリングが可能で、
    このような自動化されたプロンプトエンジニアリングをプロンプトフローと呼んだりする。
  • また、プロンプトフローを構築するフレームワークやローコードツールが開発されている。

• エージェント・システム
  最近では、このプロンプトフローをReAct?的プロンプトエンジニアリングで更にファジー化した、エージェント・システムが注目されている。

振り返り †

ICL (In-context Learning) †

文脈内学習ともよばれる。

• 重み（パラメタ）更新を伴わない学習
• 与えられたプロンプト（≒ コンテキスト）から学習する。

• 処理的に言うと、コンテキストとして与えたプロンプトのAttentionによって、
  恰も、学習の結果、重み（パラメタ）更新された様に後のベクトル処理が変化する。

• 追加学習やファインチューニングと対比され、関連用語も対比して用いられる。
  • Few-shot Learning → Few-shot prompting
  • One-shot Learning → One-shot Prompting
  • Zero-shot Learning → Zero-shot Prompting

CoT (Chain-of-Thought Prompting) †

LLMに問題に回答する際の「思考過程」をICLさせるもの。

• プロンプトに思考過程を含めることで結果、品質が向上する。
• 特に「数学の文章問題を解く」ようなタスクの際に品質が向上した。
• 規模言語モデル（パラメタが60Bくらい）でないと、CoTの効果は実感できない。
  （CoTに対応できるLLMは、コーパスから思考過程も学習済み）
• CoT対応のLLMは、多くの思考過程を学習しているが、未学習の思考過程も多数ある。
  これをICLで与えると、学習済みの思考過程と、与えた思考過程を活用して、精度の高い応答を生成する。

詳細 †

Prompt Engineering †

Zero-shot Prompting †

• Zero-shot Learning → Zero-shot Prompting
• １つも事例を足さない

One-shot Prompting †

• One-shot Learning → One-shot Prompting
• １つの事例を足す

Few-shot prompting †

• Few-shot Learning → Few-shot prompting
• 少しの事例を足す

Zero-shot CoT †

• Zero-shot Prompting → Zero-shot COT
• 以下の一文を付け足し、段階的に推論を進めるよう指示する。
  • 「ステップに分けて考えてください」
  • 「ステップバイステップで考えてみましょう」

One-shot CoT †

• One-shot Prompting → One-shot COT
• １つの思考過程を足す

Few-shot CoT †

• Few-shot Prompting → Few-shot COT
• 複数の思考過程を足す

GKP (Generated Knowledge Prompting) †

• Self-Consistencyに似た技術で、思考過程ではなく事前知識を生成。
• LLMに事前知識を生成させ、その知識をプロンプトに追加する。
• 事前学習した知識をプロンプトに含めることで、回答の一貫性と正確性が向上するため。
  • コンテキストの強化
  • 推論能力の強化（CoT的な意味で）
  • 学習済情報の再利用によるモデルの精度向上（LLMの一般的な特性）

Self-Consistency †

• 「Self-Consistency」は

• 複数の思考過程を生成する部分
• 複数の思考過程（≒ Few-Shot CoT）を大量に与えて、多様な思考過程に対応する思考結果を形成する部分
• 形成した思考過程に対応する思考結果を評価する部分

から構成されるプロンプティング技術。

• 複数の思考過程生成
  • LLMに対して同じ質問を複数回行い、異なる思考過程を生成。
  • これにより、モデルが異なる視点や方法で問題を解決する様子を観察できる。

• 思考過程の評価
  • 生成された各思考過程を評価し、一貫性や信頼性を確認。
  • 評価基準には、論理的整合性や結果の正確性が含まれる。

• 最も一貫性のある結果の選択
  • 評価結果に基づき、最も一貫性のある思考過程を選択。
  • これにより、最も信頼性の高い解答が得られる。

• 結果の統合
  • 選択された思考過程の結果を統合し、最終的な解答を生成する。
  • 必要に応じて、追加の情報やコンテキストを加えて結果を補完。

• フィードバックと改善
  • 得られた結果に対してフィードバックを行い、性能を継続的に改善。
  • フィードバックループを通じて、精度と一貫性を向上させる。

• 例

• 2次関数の解法を幾つか提案して下さい。
  • 1. 因数分解
  • 2. 解の公式
  • 3. 平方完成
  • 4. グラフを使った解法

• x^2+4x+4=0 を解いてください。

• 1. 因数分解

  x^2+4x+4=0 を因数分解を用いて回答せよ
  例えば、x^2−5x+6=0 の場合、(x−2)(x−3)=0 となり、解は x=2 と x=3 です。

• 2. 解の公式

  x^2+4x+4=0 を公式を用いて回答せよ
  公式は、ax^2+bx+c=0の場合、x = (−b±√(b^2−4ac​)) / 2a です。
  例えば、2x^2−4x-6=0 の場合、x = (4±√(4^2+4*2*6​)) / 4 = (4±8)/4 となり、解は x=3 と x=-1です。

• 3. 平方完成

  x^2+4x+4=0 を平方完成を用いて回答せよ
  例えば、x^2+6x+5=0 の場合、x^2+6x+9=4 → (x+3)^2=4 → x+3=±2 となり、解は x=3 と x=-1 です。

• 4. グラフを使った解法

  x^2+4x+4=0 をグラフを用いて回答せよ
  例えば、y=x^2-4x+3 の場合、y=0との交点から、解は x=1 と x=3 です。

Self-Ask †

• フォローアップの質問を繰り返し促して、思考プロセスを反復的に構築する方法
• フォローアップの質問には、検索エンジンの結果を使用できる。

• 「エリザベス女王の在位期間は？」

• 想定：
  • メイン質問: エリザベス女王の在位期間は？
  • サブ質問1: エリザベス女王が即位した年は？
  • サブ質問1の回答: 1952年
  • サブ質問2: エリザベス女王が退位した年は？
  • サブ質問2の回答: 2022年
  • メイン質問にサブ質問1とサブ質問2の回答を用いて答えて下さい。
  • メイン質問の回答：2022年 - 1952年 = 70年

• 実際：
  • 「エリザベス女王の在位期間は？」幾つかのサブ質問を使用し、Self-Askによって回答して下さい。
  • エリザベス2世女王の在位期間について調べるために、いくつかのサブ質問を考えてみましょう。
  • エリザベス2世女王はいつ即位しましたか？：エリザベス2世女王は1952年2月6日に即位しました。
  • エリザベス2世女王はいつ亡くなりましたか？：エリザベス2世女王は2022年9月8日に亡くなりました。
  • エリザベス2世女王の在位期間は何年ですか？：エリザベス2世女王の在位期間は70年と214日でした。

ToT (Tree of Thoughts) †

• GKP (Generated Knowledge Prompting) の延長上の技術。
• 一つのLLMをアイデア生成用、もう一つを評価用として使用。
• GKPで木構造のように、アイデア出し、深堀りを行っていく。
• このような探索ステップでLLM自身による思考の評価を挟み無理筋を打ち切る。
• この手法は、複数の解決策が存在する可能性が高い問題に特に有用。

• 例：「気候変動の影響について教えてください。」
  • 枝1：気候変動の科学的根拠
  • 枝2：気候変動の経済的影響
  • 枝3：気候変動の社会的影響
  • 評価：各枝の情報を評価し、最も包括的な回答を提供

AoT (Algorithm of Thoughts) †

• ToT (Tree of Thoughts)の延長上の技術。
• アルゴリズム的に思考を進め、論理的なステップを踏んで結論に至る。

• 例：「再生可能エネルギーの利点について教えてください。」
  • ステップ1：再生可能エネルギーの定義
  • ステップ2：再生可能エネルギーの種類
  • ステップ3：各種類の利点と欠点
  • ステップ4：再生可能エネルギーの総合的な利点

Chatアプリの基本的なPE †

• システムプロンプト
• 履歴の管理

RAG (Retrieval Augmented Generation) †

外部知識の活用と情報検索を組み合わせることで、LLMの性能を向上させる手法で、
プロンプトを用いてVDB内を検索して得たチャンクを事前知識としてプロンプトに追加し、LLMの性能を向上させるもの。

• GKPの事前知識をLLMから取り出すのではなく外部のVDBから取り出す方式のもの。
• ReActの行動部分が「事前知識をVDBを使用したチャンク検索で与える」方式のもの。

ReAct? (REasoning and ACTing) †

基本的には、以下をAgentシステムが自動的に行う。

• プロンプトを入力

• 思考
  • 入力を解析し、問題の本質を理解する。
  • 問題解決のためのステップを計画する。
  • コレは、事前に渡されているツールに「説明」があるためできる。
  • ツールには、関数ツールやクエリ・エンジンツールなどがある。

• 行動
  • 計画されたステップに従ってタスクを実行する。
  • 必要な知識情報を内部DBや外部DBから収集する。

• 観察
  • 生成された結果を評価し、必要に応じて修正や改善を行う。

• 結果を出力

様々なPrompting †

Meta Prompting †

• Meta Promptingとはプロンプト生成のためのプロンプティング
• GKP、ToT、AoTなどは、プロンプト生成のためのプロンプティングをしている。

Dynamic Prompting †

• テキスト生成や画像生成のプロンプトに変数や条件を組み込み、複数の異なる出力を得るための手法。
• 特定のキーワードやフレーズを動的に変更することで、多様な出力を生成することを目的とする。

敵対的Prompting †

Prompt-Injection †

AIの応答をゆがめ、不正な情報の拡散などのリスクを発生させる。

• Injection方法は具体的ではない。
• 出力はチェックで悪用防止可能。

Prompt-Leaking †

Prompt-Injectionの亜種で、公開予定がない機密情報を含むプロンプトを漏洩させる

• Injection方法は具体的ではない。
• 入力プロンプトを出力させるような命令を付加
• 出力はチェックで漏洩防止可能。

Jailbreak †

Prompt-Injectionの亜種で、LLMのセーフティガードレールを迂回し、非倫理的な内容を回答させる

• Injection方法は具体的ではない。
• セーフティガードレールを迂回させるような命令を付加。
• 出力はチェックで漏洩防止可能。

参考 †

• 深層学習についてのレポート（LLM編）
  https://www.osscons.jp/joho108j0-537/#_537

• プロンプトエンジニアリングとは？ChatGPTで代表的な12個のプロンプトを実演！
  https://aismiley.co.jp/ai_news/what-is-prompt-engineering/

• LLM のための Prompt Engineering – C. Cui のブログ
  https://cuicaihao.com/2024/02/04/prompt-engineering-for-llm/

Qiita †

• LLMのプロンプト技術まとめ #ChatGPT
  https://qiita.com/fuyu_quant/items/157086987bd1b4e52e80

• LLMをより賢く使うための論文8選[2023年9月最新版] #生成AI
  https://qiita.com/sergicalsix/items/344bd8d5c34df1a731b3

• ChatGPTの進化を辿る: 最新研究論文12選 #機械学習
  https://qiita.com/sergicalsix/items/f28064ce8894f114017f

• 各種Prompt Engineeringの日本語実例集（Zero-CoT、mock、ReAct?、ToT、Metacog、Step Back、IEPなど） #Python
  https://qiita.com/YutaroOgawa2/items/aca32f8fd7d551596cf8

     

Site admin: TechInfoOfMicrosoftTech

PukiWiki 1.4.7 Copyright © 2001-2006 PukiWiki Developers Team. License is GPL.
Based on "PukiWiki" 1.3 by yu-ji. Powered by PHP 5.3.3. HTML convert time: 0.048 sec.