「[[.NET 開発基盤部会 Wiki>http://dotnetdevelopmentinfrastructure.osscons.jp]]」は、「[[Open棟梁Project>https://github.com/OpenTouryoProject/]]」,「[[OSSコンソーシアム .NET開発基盤部会>https://www.osscons.jp/dotNetDevelopmentInfrastructure/]]」によって運営されています。

-[[戻る>LLM系ツール]]

*目次 [#gbdaba12]
#contents

*概要 [#lbd59853]
LLMチャット系ツール

*詳細 [#gab9a878]

**[[Open WebUI>#z2f80f6b]] [#y9e8d0ea]
-Pythonで実装されており、モデル設定のURLからサーバサイドで実行されている事が解る。
-補足:LLMはサーバー・サイド、クライントはSPAっぽいので、サーバー + クライアント・サイド

***インストール [#d61ec687]
-WSL2からDockerを起動するには...
--The command 'docker' could not be found in this WSL 2 distro. #Docker - Qiita~
https://qiita.com/chovin/items/3057b35b776f70c3bcb5

-WSL2からDockerでOpen WebUIを起動して、
 docker run -d -p 5955:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

***動作確認 [#kdd835e0]
-以下のURLにアクセスすると(何故か)WLS2上のOllamaにアクセスできる。
 http://127.0.0.1:5955/

-設定を確認すると、モデルは以下のように設定されており、コンテナからホスト上のサービスにアクセスしているらしい。
 http://host.docker.internal:11434

**[[Streamlit>#g59f451b]] [#v83ca8fc]
StreamlitはPythonアプリ(CLI)を迅速にWeb化するツール。~
標準I/Oへ書き込むのではなくAPIを使用して専用のStreamへの書き込む。

***インストール [#z7a3f1da]
-インストールして
 pip install streamlit

***動作確認 [#a92078db]
-実行する。
 streamlit run LLM_Streamlit.py

-UIにアクセスする。
 http://localhost:8501/

**[[Chainlit>#mcd99ab0]] [#of654238]

***インストール [#l827e703]

***動作確認 [#ed175ff1]

**[[Ollama-ui>#l8d7482d]] [#oe1a4d66]

***インストール [#m33b9f7d]

***動作確認 [#c9e3b484]

*参考 [#e21fe112]

**Open WebUI [#z2f80f6b]
-Ollamaをwslにインストールして使う。ついでにwebブラウザでOllamaを表示させる #WSL - Qiita~
https://qiita.com/mkuwan/items/ff84679ed8308ae78979

**Streamlit [#g59f451b]
-streamlitを使ったお手軽Webアプリ開発 #Python - Qiita~
https://qiita.com/sypn/items/80962d84126be4092d3c

-Streamlit入門+応用 ~ データ分析Webアプリを爆速で開発する #Python - Qiita~
https://qiita.com/tamura__246/items/366b5581c03dd74f4508

**Chainlit [#mcd99ab0]
-Chainlitを試してみる #LangChain - Qiita~
https://qiita.com/taka_yayoi/items/3afeea6edb4f1eb022b4

-チャット UI を簡単に作れる「Chainlit」の紹介 ~ LangChain との統合 ~ #Python - Qiita~
https://qiita.com/skkzsh/items/17bff703dba27240ec90

**Ollama-ui [#l8d7482d]
-Windows版 Ollama と Ollama-ui を使ってPhi3-mini を試してみた #Windows,Ollama,Ollama-ui - Qiita~
https://qiita.com/programing_diy_kanrinin/items/24d0778a42ae0f24deae

トップ   編集 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS