LLMチャット系ツールのバックアップ(No.2)

バックアップ一覧
差分を表示
現在との差分を表示
ソースを表示
LLMチャット系ツールへ行く。
- 1 (2025-05-07 (水) 12:51:02)
- 2 (2025-05-07 (水) 13:09:59)

「.NET 開発基盤部会 Wiki」は、「Open棟梁Project」,「OSSコンソーシアム .NET開発基盤部会」によって運営されています。

戻る

目次 †

↑

概要 †

LLMチャット系ツール

↑

詳細 †

↑

Open WebUI †

Pythonで実装されており、モデル設定のURLからサーバサイドで実行されている事が解る。
補足：LLMはサーバー・サイド、クライントはSPAっぽいので、サーバー + クライアント・サイド

↑

インストール †

WSL2からDockerを起動するには...
- The command 'docker' could not be found in this WSL 2 distro. #Docker - Qiita
  https://qiita.com/chovin/items/3057b35b776f70c3bcb5

WSL2からDockerでOpen WebUIを起動して、

docker run -d -p 5955:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

↑

動作確認 †

以下のURLにアクセスすると（何故か）WLS2上のOllamaにアクセスできる。
```
http://127.0.0.1:5955/
```

設定を確認すると、モデルは以下のように設定されており、コンテナからホスト上のサービスにアクセスしているらしい。
```
http://host.docker.internal:11434
```

↑

Streamlit †

StreamlitはPythonアプリ（CLI）を迅速にWeb化するツール。
標準I/Oへ書き込むのではなくAPIを使用して専用のStreamへの書き込む。

↑

インストール †

インストールして
```
pip install streamlit
```

↑

動作確認 †

実行する。
```
streamlit run LLM_Streamlit.py
```

UIにアクセスする。
```
http://localhost:8501/
```

↑

参考 †

↑

Open WebUI †

Ollamaをwslにインストールして使う。ついでにwebブラウザでOllamaを表示させる #WSL - Qiita
https://qiita.com/mkuwan/items/ff84679ed8308ae78979

↑

Streamlit †

streamlitを使ったお手軽Webアプリ開発 #Python - Qiita
https://qiita.com/sypn/items/80962d84126be4092d3c

Streamlit入門＋応用～データ分析Webアプリを爆速で開発する #Python - Qiita
https://qiita.com/tamura__246/items/366b5581c03dd74f4508

↑

Chainlit †

Chainlitを試してみる #LangChain - Qiita
https://qiita.com/taka_yayoi/items/3afeea6edb4f1eb022b4

チャット UI を簡単に作れる「Chainlit」の紹介 ~ LangChain との統合 ~ #Python - Qiita
https://qiita.com/skkzsh/items/17bff703dba27240ec90

↑

Ollama-ui †

Windows版 Ollama と Ollama-ui を使ってPhi3-mini を試してみた #Windows,Ollama,Ollama-ui - Qiita
https://qiita.com/programing_diy_kanrinin/items/24d0778a42ae0f24deae

LLMチャット系ツール のバックアップ(No.2)

目次 †

概要 †

詳細 †

Open WebUI †

インストール †

動作確認 †

Streamlit †

インストール †

動作確認 †

Chainlit †

インストール †

動作確認 †

Ollama-ui †

インストール †

動作確認 †

参考 †

Open WebUI †

Streamlit †

Chainlit †

Ollama-ui †

LLMチャット系ツールのバックアップ(No.2)