「.NET 開発基盤部会 Wiki」は、「Open棟梁Project」,「OSSコンソーシアム .NET開発基盤部会」によって運営されています。
目次 †
概要 †
- LLMを自作プログラムと接続し、プロンプトチェーンを構成するツール。
- LLMクライアントであり、プロンプトに、Chat履歴を含めたり、RAG機能を追加したりするのに必要。
- 私もLangChainの書籍を読み、そこからLLMのPEのレシピを抽出したが（→ LLMのPE）、
その後、単純にWebAPI経由でLLMを呼び出すだけの「Hello World」ならぬ「Hell World」で挫折。
- また、界隈のパッケージは破壊的変更を含み非常に速く変更されているので、ネットやGPTの情報が役に立たないケースが多い。
詳細 †
問題 †
- プログラマーが LLM をプログラムに簡単に統合できるようにする抽象化ラッパー
- 物事をシンプルにするどころか、過剰な設計 / 依存性で、シンプルなものを相対的に複雑にしている。
- 自分で簡単にできる簡単な問題を解決し、難しいことを支援する設計やアーキテクチャについてはあまり考慮していない。
- LangChainの「Hello World」は、OpenAIとほぼ同じコード量で不必要な多くのクラスを組み込む「Hell World」だ。
サブシステム †
LCEL †
- コードアプローチの代替として使用できる宣言型言語。
- YAMLファイルで達成したいことを記述します。
- 直接コーディングするよりも簡単ではない。
- LangFlowは、LangChainアプリをノーコードで設計・可視化できるWebベースのツール。
- ドラッグ＆ドロップでChainやAgent、各種ツールを接続して対話フローを構築できる。
- 生成AIアプリ開発のプロトタイピングやチューニングに適している。
連携 †
- from langchain_ollama.llms import OllamaLLM
- from langchain_community.llms import Ollama
- いずれも、base_url を指定して既定値を変更できる。
BaseRetriever?を使用してRetrieverをLlamaIndex拡張する。
... †
参考 †
公式 †
![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
