![[PukiWiki]](image/pukiwiki.png "[PukiWiki]")
「[[.NET 開発基盤部会 Wiki>http://dotnetdevelopmentinfrastructure.osscons.jp]]」は、「[[Open棟梁Project>https://github.com/OpenTouryoProject/]]」,「[[OSSコンソーシアム .NET開発基盤部会>https://www.osscons.jp/dotNetDevelopmentInfrastructure/]]」によって運営されています。 -[[戻る>LLM系ツール]] *目次 [#gbdaba12] #contents *概要 [#lbd59853] LLMチャット系ツール：ローカルまたはWeb上でLLM（大規模言語モデル）やAIアプリのインターフェースを作る用途に使われる。 *詳細 [#gab9a878] **[[Open WebUI>#z2f80f6b]] [#y9e8d0ea] -Pythonで実装されたChatGPT風のUIで、モデル設定のURLからサーバサイドで実行されている事が解る。 -LLMはサーバー・サイド、クライントはSPAっぽいので、サーバー + クライアント・サイド -主に Ollama やローカル LLM をチャット形式で操作するために使われ、多くのモデル（LLaMA, Mistral, etc）と互換性あり。 ***インストール [#d61ec687] -WSL2からDockerを起動するには... --The command 'docker' could not be found in this WSL 2 distro. #Docker - Qiita~ https://qiita.com/chovin/items/3057b35b776f70c3bcb5 -WSL2からDockerでOpen WebUIを起動して、 docker run -d -p 5955:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main ***動作確認 [#kdd835e0] -以下のURLにアクセスすると（何故か）WLS2上のOllamaにアクセスできる。 http://127.0.0.1:5955/ -設定を確認すると、モデルは以下のように設定されており、~ コンテナからホスト上のサービスにアクセスしているらしい。 http://host.docker.internal:11434 **[[Streamlit>#g59f451b]] [#v83ca8fc] -StreamlitはPythonアプリ（CLI）を迅速にWeb化するツール。 -Pythonだけで簡単にWebアプリケーションを作ることができる。 -LLMに限定したものではないが、LLMとは相性が良い。 -標準I/Oへ書き込むのではなくAPIを使用して専用のStreamへの書き込む。 ***インストール [#z7a3f1da] -インストールして pip install streamlit ***動作確認 [#a92078db] -実行する。 streamlit run LLM_Streamlit.py -UIにアクセスする。 http://localhost:8501/ **Gradio UI [#md161b4d] -Gradio は NoteBook の 1セルからUIを作成して起動できる。 -モデルの可視化・デモ、プロトタイピングに有用 ***インストール [#yc5069fa] ***動作確認 [#he9d235e] **[[Chainlit>#mcd99ab0]] [#of654238] LLMエージェントとの対話に特化したチャットアプリやツールを素早く構築するためのフレームワーク（LangChainとの相性が良い） ***インストール [#l827e703] ***動作確認 [#ed175ff1] **[[Ollama-ui>#l8d7482d]] [#oe1a4d66] ***インストール [#m33b9f7d] ***動作確認 [#c9e3b484] *参考 [#e21fe112] **Open WebUI [#z2f80f6b] -Ollamaをwslにインストールして使う。ついでにwebブラウザでOllamaを表示させる #WSL - Qiita~ https://qiita.com/mkuwan/items/ff84679ed8308ae78979 **Streamlit [#g59f451b] -streamlitを使ったお手軽Webアプリ開発 #Python - Qiita~ https://qiita.com/sypn/items/80962d84126be4092d3c -Streamlit入門＋応用 ～ データ分析Webアプリを爆速で開発する #Python - Qiita~ https://qiita.com/tamura__246/items/366b5581c03dd74f4508 **Gradio UI [#td5f139c] -https://qiita.com/kzkymn/items/901ba79052190e428697 -https://note.com/npaka/n/nb9d4902f8f4d -https://note.com/npaka/n/nb2e78a8a89f5 **Chainlit [#mcd99ab0] -Chainlitを試してみる #LangChain - Qiita~ https://qiita.com/taka_yayoi/items/3afeea6edb4f1eb022b4 -チャット UI を簡単に作れる「Chainlit」の紹介 ~ LangChain との統合 ~ #Python - Qiita~ https://qiita.com/skkzsh/items/17bff703dba27240ec90 **Ollama-ui [#l8d7482d] -Windows版 Ollama と Ollama-ui を使ってPhi3-mini を試してみた #Windows,Ollama,Ollama-ui - Qiita~ https://qiita.com/programing_diy_kanrinin/items/24d0778a42ae0f24deae
