.NET 開発基盤部会 Wiki」は、「Open棟梁Project」,「OSSコンソーシアム .NET開発基盤部会」によって運営されています。

目次

概要

ChatGPT(チャットジーピーティー、Chat Generative Pre-trained Transformer)

アーキテクチャ

GPT-3, 4

(Generative Pre-training Transformer 3, 4)

Transformer

学習の仕組み

自然言語を理解する能力

GPTは自然言語を理解する能力を持っていると言う。

反響

知名度、評価など

肯定的な意見

否定的な意見

詳細

人間との相違点

人間

ChatGP

複数の欠点

ただし、機能は豊富なものの、複数の欠点もある。

確率的オウム

本質的に確率的オウム(統計ルールからのみ知識を得ている)という指摘。

知識の範囲

強化学習の弊害

もっともらしく見える誤回答(正誤不明な回答)を作成する。

そこまですごくない話

Transformer強化学習を組み合わせるともっと凄いと言う発見だけが今回のポイント

強化学習の取り入れ

Transformerは凄い。

雰囲気が重視されている。

用法

利用目的アンケート1-10位

アイデア出し

メールなどの文章生成

飲食店などの検索

日常の相談

仕事の相談相手

雑談相手

献立・レシピ

創作への活用

プログラム作成

要約文の作成

テキスト翻訳や要約、校正

文章構正

テキスト翻訳や要約、校正

機械翻訳

テキスト翻訳や要約、校正

その他・仕事での活用

...

ユースケース

様々なテキスト生成のユースケース

チャットボット

パーソナル・エージェント

テキスト翻訳や要約、校正

検索代替、質疑応答

プログラミングやデバッグ

プログラムの模範

クリエイティブ

小説、脚本、詩、歌詞、音楽など。

得意なタスクと苦手なタスク

そもそもの仕組み(LLMの特徴)

得意とするタスク

特に、文章生成や自然言語対話システムなどを構築する場合には有効。

苦手とするタスク

質問のタイプ

回答に必要となる知識や処理で分類したタイプの質問

言語的&確率的に学習した結果で回答可能な質問

得意とするタスク

論理クイズなど、論理的な思考が必要な質問

苦手とするタスク

LLMが学習していない暗黙知を必要とする質問

知識として存在しないLLMが学習していない事物に対する質問

質問の対象の特性で分類したタイプの質問

LLMがテキスト・コーパスで学習した事物に対する質問

言語的&確率的に学習した結果で回答可能な質問

LLMがテキスト・コーパスで学習していない事物に対する質問

LLMにプロンプトで読み込ませた事物に対する質問

事物の「真偽」についての質問

事物の「定義」についての質問

質問者が知らない事物についての質問

ユースケース毎に分類したタイプの質問

学習・リサーチで利用する場合

...で利用する場合

質問のポイント

入力テキストを作成する際のポイント

入力として与えられた情報を基に回答を生成するため...

明確で具体的な質問をする

必要な情報をすべて含める

質問をする際には、必要な情報をすべて含めることで、より適切な回答を生成できる。

質問を分割する

情報が含まれる範囲を明確にする

プロンプト・エンジニアリング

出力の回答を解釈する際のポイント

入力として与えられた情報を基に回答を生成するため...

正確であることを確認する

抽象的である場合、具体的に解釈する

複数の解釈ができる場合、質問を再確認する

回答が省略されている場合は、補足する

参考

始め方

使い方

プロンプト・エンジニアリング

ChatGPT vs Google翻訳

理解、疑問

ChatGPT - SNSなど?

ChatGPT - Newsなど?

ChatGPTとは?

ChatGPTの限界

ChatGPTの仕組みを理解する

サービス


トップ   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS