LLMチャット系ツール のバックアップ(No.3)

[ トップ ]   [ 新規 | 一覧 | 単語検索 | 最終更新 | ヘルプ ]

• バックアップ一覧
• 差分 を表示
• 現在との差分 を表示
• ソース を表示
• LLMチャット系ツール へ行く。
  • 1 (2025-05-07 (水) 12:51:02)
  • 2 (2025-05-07 (水) 13:09:59)
  • 3 (2025-07-26 (土) 16:22:44)
  • 4 (2025-12-11 (木) 18:46:35)
  • 5 (2025-12-12 (金) 16:05:30)

---

「.NET 開発基盤部会 Wiki」は、「Open棟梁Project」,「OSSコンソーシアム .NET開発基盤部会」によって運営されています。

• 戻る

目次 †

概要 †

LLMチャット系ツール：ローカルまたはWeb上でLLM（大規模言語モデル）やAIアプリのインターフェースを作る用途に使われる。

詳細 †

Open WebUI †

• Pythonで実装されたChatGPT風のUIで、モデル設定のURLからサーバサイドで実行されている事が解る。
• LLMはサーバー・サイド、クライントはSPAっぽいので、サーバー + クライアント・サイド
• 主に Ollama やローカル LLM をチャット形式で操作するために使われ、多くのモデル（LLaMA, Mistral, etc）と互換性あり。

インストール †

• WSL2からDockerを起動するには...
  • The command 'docker' could not be found in this WSL 2 distro. #Docker - Qiita
    https://qiita.com/chovin/items/3057b35b776f70c3bcb5

• WSL2からDockerでOpen WebUIを起動して、

  docker run -d -p 5955:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

動作確認 †

• 以下のURLにアクセスすると（何故か）WLS2上のOllamaにアクセスできる。

  http://127.0.0.1:5955/

• 設定を確認すると、モデルは以下のように設定されており、
  コンテナからホスト上のサービスにアクセスしているらしい。

  http://host.docker.internal:11434

Streamlit †

• StreamlitはPythonアプリ（CLI）を迅速にWeb化するツール。
• Pythonだけで簡単にWebアプリケーションを作ることができる。
• LLMに限定したものではないが、LLMとは相性が良い。
• 標準I/Oへ書き込むのではなくAPIを使用して専用のStreamへの書き込む。

インストール †

• インストールして

  pip install streamlit

動作確認 †

• 実行する。

  streamlit run LLM_Streamlit.py

• UIにアクセスする。

  http://localhost:8501/

Gradio UI †

• Gradio は NoteBook? の 1セルからUIを作成して起動できる。
• モデルの可視化・デモ、プロトタイピングに有用

インストール †

動作確認 †

Chainlit †

LLMエージェントとの対話に特化したチャットアプリやツールを素早く構築するためのフレームワーク（LangChainとの相性が良い）

インストール †

動作確認 †

Ollama-ui †

インストール †

動作確認 †

参考 †

Open WebUI †

• Ollamaをwslにインストールして使う。ついでにwebブラウザでOllamaを表示させる #WSL - Qiita
  https://qiita.com/mkuwan/items/ff84679ed8308ae78979

Streamlit †

• streamlitを使ったお手軽Webアプリ開発 #Python - Qiita
  https://qiita.com/sypn/items/80962d84126be4092d3c

• Streamlit入門＋応用 ～ データ分析Webアプリを爆速で開発する #Python - Qiita
  https://qiita.com/tamura__246/items/366b5581c03dd74f4508

Gradio UI †

• https://qiita.com/kzkymn/items/901ba79052190e428697

• https://note.com/npaka/n/nb9d4902f8f4d
• https://note.com/npaka/n/nb2e78a8a89f5

Chainlit †

• Chainlitを試してみる #LangChain - Qiita
  https://qiita.com/taka_yayoi/items/3afeea6edb4f1eb022b4

• チャット UI を簡単に作れる「Chainlit」の紹介 ~ LangChain との統合 ~ #Python - Qiita
  https://qiita.com/skkzsh/items/17bff703dba27240ec90

Ollama-ui †

• Windows版 Ollama と Ollama-ui を使ってPhi3-mini を試してみた #Windows,Ollama,Ollama-ui - Qiita
  https://qiita.com/programing_diy_kanrinin/items/24d0778a42ae0f24deae

     

Site admin: TechInfoOfMicrosoftTech

PukiWiki 1.4.7 Copyright © 2001-2006 PukiWiki Developers Team. License is GPL.
Based on "PukiWiki" 1.3 by yu-ji. Powered by PHP 5.3.3. HTML convert time: 0.020 sec.