「[[.NET 開発基盤部会 Wiki>http://dotnetdevelopmentinfrastructure.osscons.jp]]」は、「[[Open棟梁Project>https://github.com/OpenTouryoProject/]]」,「[[OSSコンソーシアム .NET開発基盤部会>https://www.osscons.jp/dotNetDevelopmentInfrastructure/]]」によって運営されています。 -[[戻る>LLM系ツール]] *目次 [#gbdaba12] #contents *概要 [#lbd59853] LLMチャット系ツール *詳細 [#gab9a878] **[[Open WebUI>#z2f80f6b]] [#y9e8d0ea] -Pythonで実装されており、モデル設定のURLからサーバサイドで実行されている事が解る。 -補足:LLMはサーバー・サイド、クライントはSPAっぽいので、サーバー + クライアント・サイド ***インストール [#d61ec687] -WSL2からDockerを起動するには... --The command 'docker' could not be found in this WSL 2 distro. #Docker - Qiita~ https://qiita.com/chovin/items/3057b35b776f70c3bcb5 -WSL2からDockerでOpen WebUIを起動して、 docker run -d -p 5955:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main ***動作確認 [#kdd835e0] -以下のURLにアクセスすると(何故か)WLS2上のOllamaにアクセスできる。 http://127.0.0.1:5955/ -設定を確認すると、モデルは以下のように設定されており、コンテナからホスト上のサービスにアクセスしているらしい。 http://host.docker.internal:11434 **[[Streamlit>#g59f451b]] [#v83ca8fc] StreamlitはPythonアプリ(CLI)を迅速にWeb化するツール。~ 標準I/Oへ書き込むのではなくAPIを使用して専用のStreamへの書き込む。 ***インストール [#z7a3f1da] -インストールして pip install streamlit ***動作確認 [#a92078db] -実行する。 streamlit run LLM_Streamlit.py -UIにアクセスする。 http://localhost:8501/ **[[Chainlit>#mcd99ab0]] [#of654238] ***インストール [#l827e703] ***動作確認 [#ed175ff1] **[[Ollama-ui>#l8d7482d]] [#oe1a4d66] ***インストール [#m33b9f7d] ***動作確認 [#c9e3b484] *参考 [#e21fe112] **Open WebUI [#z2f80f6b] -Ollamaをwslにインストールして使う。ついでにwebブラウザでOllamaを表示させる #WSL - Qiita~ https://qiita.com/mkuwan/items/ff84679ed8308ae78979 **Streamlit [#g59f451b] -streamlitを使ったお手軽Webアプリ開発 #Python - Qiita~ https://qiita.com/sypn/items/80962d84126be4092d3c -Streamlit入門+応用 ~ データ分析Webアプリを爆速で開発する #Python - Qiita~ https://qiita.com/tamura__246/items/366b5581c03dd74f4508 **Chainlit [#mcd99ab0] -Chainlitを試してみる #LangChain - Qiita~ https://qiita.com/taka_yayoi/items/3afeea6edb4f1eb022b4 -チャット UI を簡単に作れる「Chainlit」の紹介 ~ LangChain との統合 ~ #Python - Qiita~ https://qiita.com/skkzsh/items/17bff703dba27240ec90 **Ollama-ui [#l8d7482d] -Windows版 Ollama と Ollama-ui を使ってPhi3-mini を試してみた #Windows,Ollama,Ollama-ui - Qiita~ https://qiita.com/programing_diy_kanrinin/items/24d0778a42ae0f24deae