![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
「[[.NET 開発基盤部会 Wiki>http://dotnetdevelopmentinfrastructure.osscons.jp]]」は、「[[Open棟梁Project>https://github.com/OpenTouryoProject/]]」,「[[OSSコンソーシアム .NET開発基盤部会>https://www.osscons.jp/dotNetDevelopmentInfrastructure/]]」によって運営されています。 -[[戻る>テキスト生成系（Transformer系）]] > [[開発系>テキスト生成系（Transformer系）#cf2e3279]] --[[OpenAI]] --[[Azure OpenAI>https://techinfoofmicrosofttech.osscons.jp/index.php?Azure%20OpenAI%20Service]] --[[OSSのLLM]] --LLM系ツール *目次 [#g93104c4] #contents *概要 [#f93f2f4d] いろいろある -破壊的に変更によりコードがすぐに動かなくなる。 -ネットやGPTの情報より、公式サイトの当該バージョンの情報（≒一次情報）を当たると良い。 *詳細 [#df7109a7] **サーバ（モデル） [#n949902c] ***[[Ollama>#g985d50a]] [#f0bd9c60] ***[[Hugging Face>#g985d50a]] [#j152c370] **クライアント [#l59c9985] LLMのクライアントの意味なので様々なツール（WebAPI/CLI/Chat）が存在する。 ***[[Ollama>#g985d50a]] [#rfc27b68] ***[[OpenAI>#xec30e21]] [#s09ad4aa] ***WebAPI系、CLI系、Chat系がある。 [#v39a4fae] -WebAPI系 --SaaS提供：OpenAI API、Claude API、Gemini API --その他：ollama、LangChain -CLI系 --SaaS提供：OpenAI CLI、Gemini CLI --その他：llm (by Simon Willison)、ollama、gpt-cli -Chat系 --SaaSのWebUI：ChatGPT、Copilot 、Claude、Gemini --その他のWebUI：Open WebUI、LangFlow **開発系ツール [#p10cca3d] ***[[LangChain>#xc1b6ab5]] [#y2b77c3b] ***[[LlamaIndex>#t1f404ce]] [#h7b19926] ***[[エージェント系>LLMエージェント#v6874125]] [#na571a87] **[[LLMチャット系ツール]] [#ucd2039f] -今となっては、あまり高度な機能を持たない、LLM呼び出しだけの純LLMツールと言える。 -昨今のチャットは裏で、単純なLLM呼び出しに留まらず、RAG、プロンプト/エージェント・フローなどが動作している。 ***[[Gradio UI>LLMチャット系ツール#md161b4d]] [#h320386c] NoteBook の 1セルからUIを作成して起動できるデモ用。詳しくは、リンク先参照。 ***[[Streamlit>LLMチャット系ツール#v83ca8fc]] [#n0628c48] デモ用、詳しくは、本番用（≒ 簡素であるが柔軟性が高い）。詳しくは、リンク先参照。 ***[[Open WebUI>LLMチャット系ツール#y9e8d0ea]] [#b100d4e9] 純LLMのLLMチャット ***Chainlit [#bcb1dc9f] LangChain系 ***Ollama-ui [#o3aae4bb] Ollama系 ***余談：[[ユースケース>LLMのユースケース]] [#f85b8f6b] **ローコード系ツール [#e5b7f217] データフロー・オーケストレーション・ツール中にLLMを組み込める感じのLLMローコード・ツール ***[[Dify>#le9a785a]] [#x5c600c1] ***[[FlowiseAI>#rdbe47d0]] [#e92802ca] ***[[LangFlow>#pb05fcb0]] [#yf60ce52] ***余談：ユースケース [#g94cca07] -特徴 --多ステップ型の業務ワークフロー自動化（情報収集・抽出・加工） --LLMを使用するので、シェル・スクリプトやRPAより文字列処理が得意で、且つ、柔軟性がある。 --情報分析（構造化・比較・定性データの定量化）やスクリーニング（抽出・判定・選別）が得意。 -具体例 --情報分析 |部署・領域|具体的な業務例|処理内容と自動化のポイント|h |経営企画|IR他社決算|有価証券報告書の比較分析競合他社の決算書（PDF）から、数値データだけでなく「業績変動の定性的な要因（円安、原材料高など）」や「リスク情報」を抽出して比較表を作成。| |マーケ・CS|顧客の声（VoC）の傾向・感情分析|アンケート、コールセンター通話ログ、SNS上の口コミから「不満のカテゴリ」「製品への感情（ポジ/ネガ）」「改善要望」を抽出し、集計データ化。| |製品・開発|競合他社の製品・サービス機能比較|競合のWebサイトやプレスリリース、製品カタログを読み込ませ、機能・価格・ターゲット層を共通の軸でまとめた「競合比較マトリクス表」を作成。| |品質管理|不具合報告・ヒヤリハット原因分析|現場から上がる膨大な事故・不具合の自由記述レポートから、「共通の発生要因」や「機器別のトラブル傾向」をカテゴリ分類・構造化。| |営業管理|商談ログ・SFAテキストの傾向抽出|営業担当者が入力した商談履歴（テキスト）から「失注理由の共通パターン」や「顧客から頻出する懸念点」を抽出・整理。| --スクリーニング |部署・領域|具体的な業務例|処理内容と自動化のポイント|h |人事・採用|応募書類の一次選考|毎月数百件届く履歴書・職務経歴書（PDF）から、必須スキルや経験年数の充足度を判定し、合格候補と見送り候補に自動振り分け。| |法務・リスク|契約書のリスク条項検知|取引先の契約書から「当社に不利な免責」「上限なしの損害賠償」「自動更新」などのリスク条項を自動抽出して警告。| |R&D・知財|特許・論文の一次スクリーニング|毎日発行される大量の特許出願や論文から、自社の研究テーマに関連度の高いものだけをスコアリングしてピックアップ。| |調達・購買|サプライヤー（取引先）の評価判定|取引先候補の企業概要、財務情報、反社・不祥事ニュースなどを検索・確認し、取引開始基準を満たすか一次スクリーニング。| |営業・マーケ|獲得リード（見込み顧客）の精査|Webフォームから入ってきた大量の問い合わせから、ターゲット企業か、決裁権がありそうか等を判定して優先対応リストを作成。| **[[推論エージェント]] [#k25f9468] -実行計画自体を推論モデルが生成するので、[[ローコード>#e5b7f217]]よりファジーな処理が可能。 -チャットしていれば、コードが作成されたり、オペレーションが完了したりする。 -[[ただし、同様に推論エージェントを使用するチャット系と比べると、思考ループが深い（チャットが一問一答で浅い感じ）>https://share.gemini.google/0BRsAl9O3cF4]] -[[同様に推論エージェントを使用するチャット系と比べ思考ループが深い（チャット系は一問一答で浅い感）>https://share.gemini.google/0BRsAl9O3cF4]] ***[[コーディング・エージェント>推論エージェント#l70a7dd0]] [#o380c8b8] ***[[自律型業務エージェント>推論エージェント#u6e8cf97]] [#hbdc2a55] *参考 [#w1cfdc55] -DxCommon/Notebook/path at master · OpenTouryoProject/DxCommon~ https://github.com/OpenTouryoProject/DxCommon/tree/master/Notebook/path --LLM_Ollama.ipynb --LLM_Streamlit.py --,etc. -LLMの実行方法と周辺ツールまとめ #OpenAI~ https://qiita.com/simakihiro/items/7467b849212fb3863e3b -LLM Tools - Ranking | OSS Insight~ https://ossinsight.io/collections/llm-tools/ **サーバ（モデル） [#hc054a06] ***[[Ollama>#g985d50a]] [#s252c34b] ***[[Hugging Face]] [#o67d37ab] -AIプラットフォーム「Hugging Face」の使い方を解説~ https://zenn.dev/novel_techblog/articles/362fceec01c8b1 -Hugging Faceとは？モデル一覧や使い方・実用性まで徹底解説 | AI総合研究所 | AI総合研究所~ https://www.ai-souken.com/article/what-is-hugging-face **クライアント [#f3333d90] ***[[Ollama]] [#g985d50a] -Ollamaで体験する国産LLM入門~ https://zenn.dev/hellorusk/books/e56548029b391f -最新 LLM を超簡単に試しちゃおう！ ollama を使ってみた #初心者 - Qiita~ https://qiita.com/hiyoko1729/items/4dfcaad104363c6d8203 -【ローカルLLM】Ollama Python Libraryのメソッド一覧と動作例 #DeepLearning - Qiita~ https://qiita.com/LiberalArts/items/6492e54d479789eddbcd ***[[OpenAI]] [#xec30e21] **ツール [#kfeade13] ***[[LangChain]] [#xc1b6ab5] ***[[LlamaIndex]] [#t1f404ce] **ローコード [#ycca35fa] ***[[Dify]] [#le9a785a] ***[[FlowiseAI]] [#rdbe47d0] ***[[LangFlow>LangChain#k3130395]] [#pb05fcb0]
