人工知能（AI）：予測・診断・最適化 のバックアップ(No.17)

[ トップ ]   [ 新規 | 一覧 | 単語検索 | 最終更新 | ヘルプ ]

• バックアップ一覧
• ソース を表示
• 人工知能（AI）：予測・診断・最適化 は削除されています。
  • 1 (2022-01-07 (金) 18:48:56)
  • 2 (2022-01-07 (金) 21:28:29)
  • 3 (2022-01-09 (日) 17:02:22)
  • 4 (2022-01-09 (日) 19:43:15)
  • 5 (2022-01-10 (月) 15:23:07)
  • 6 (2022-01-10 (月) 17:44:02)
  • 7 (2022-01-11 (火) 12:19:43)
  • 8 (2022-01-11 (火) 14:23:10)
  • 9 (2022-01-12 (水) 16:36:05)
  • 10 (2022-01-14 (金) 15:35:14)
  • 11 (2022-06-08 (水) 10:30:16)
  • 12 (2022-10-20 (木) 23:11:52)
  • 13 (2022-11-09 (水) 15:10:45)
  • 14 (2023-01-18 (水) 11:54:28)
  • 15 (2023-02-24 (金) 17:07:42)
  • 16 (2023-09-11 (月) 15:40:43)
  • 17 (2023-10-05 (木) 16:04:01)

---

「.NET 開発基盤部会 Wiki」は、「Open棟梁Project」,「OSSコンソーシアム .NET開発基盤部会」によって運営されています。

• 戻る
  • AIのアルゴリズム・モデル
  • 予測・診断・最適化、ロボティクス
  • AIの活用例、AIプロジェクトのマネジメント

目次 †

概要 †

資料によっては、

• 予測、分類、最適化。
• 回帰、分類、最適化。

用語 †

データ †

個体の集合

個体 †

全観測変数の観測値によるベクトル

観測変数 †

• 観測されている項目（属性）の名前
• 観測変数＝説明変数＋目的変数

観測値 †

観測変数の実際の値

潜在変数 †

観測されていないが存在する項目

基本要素 †

確率推論の基本要素

データ †

• 特徴量
• 欠損、外れ値

アルゴリズム †

モデルを最適化する方法 = パラメタ推定

• 最尤推定：パラメタの最適な値を求める方法（最尤）、最小二乗法
• ベイズ推定：パラメタの最適な分布を求める方法（事後分布）、....

モデル †

• モデル

• 統計モデル、数理最適化
  • 線形回帰モデル：線形データを近似（単回帰、重回帰
  • 多項式回帰モデル：非線形データを近似（単回帰、重回帰
  • 深層学習（deep learning）：非線形、高次元データを連続写像として近似

• 確率的生成モデル
  不確実な現象を（、非線形な連続関数ではなく）、確率分布として表現する。
  • パラメトリック・モデル：分布の密度関数とパラメタで表現
  • ノンパラメトリック・モデル：分布の密度関数を特定しないで表現

• 確率的生成モデルの色々
  • ナイーブベイズ
  • ベイジアンネットワーク
  • HMM、DNN
  • 状態空間モデル
• , etc.

• 変数

• 観測変数
  • 説明変数（回帰・分類の入力）
  • 目的変数（回帰・分類の出力）

• 潜在変数
  • 説明変数（クラスタリング入力）
  • 目的変数（クラスタリング出力）

• 目的変数の予測
  • ≒意思決定
  • 精度はパラメタの最適化に依存

• 学習の方法
  • 目的変数が観測変数
    教師あり学習
  • 目的変数が潜在変数
    教師なし学習

• パラメタ
  学習によってアルゴリズムにより最適化される。

予測・診断・最適化 †

確率推論の予測・診断・最適化

予測 †

主に社会的データを用いて、

• 価値に関する予測に関する問題を対象に考える。
• 価値に関する観測変数と予測値の間の構造のモデル化と推論

知る †

• 予想と予測

• 予想：主観的な推量・推定

• 予測：根拠や基準（現象のモデル化）を基にした推量・推定
  • 現象が起こる可能性、要因の影響度が計算できる事が重要
  • 外れ方（不確実性、誤差）も推定する必要がある。

• 観測と予測
  データに基づいて未観測の現象を予測
  • 観測：逆問題（観測データから背景のメカニズムを知る、現象のモデル化
  • 予測：順問題（モデルを使用して推論（確率モデルが重要な役割を果たす

確率モデル †

• モデルの区別

• 計算モデル
  モデルを使った計算方法

• 現象モデル
  • 現象の背後に想定されるモデル。
  • 以下の２つに分類される。
    ・生成モデル：結果データを生成するモデル
    ・認識モデル：結果を予想するモデル

• モデル（確率ネットワーク
  • ベイジアンネットワーク
  • その他、グラフ構造の確率モデル
  • 確率的潜在意味解析（PLSA）

アルゴリズム †

現象のモデル化と推論の仕組み。

• データから確率モデルを構築する学習アルゴリズム
• 確率モデルを用いた予測を行う推論アルゴリズム

問題と事例 †

• 需要予測
• リスク予測
• 異常検出
• サービス価値の予測

診断 †

判断 †

• 予測のもとである時点での状態やリスクを判断。
  • 病気の診断
  • 機械の診断（故障、現在状態）
  • 顧客の診断（購入意欲・ロイヤリティ）

問題設定の類型化 †

• 問題のタイプ分け

• 状態推定・把握の問題
  知りたい状態をモデル化して診断

• 状態推定の問題
  ・状態が解っている場合
  ・判別問題 / 識別問題
  ・ナイーブベイズ、ベイジアンネットワーク

• 状態把握の問題
  ・状態が解っていない場合（データから状態を把握
  ・クラスタリング：潜在クラスモデルなど

• 異常状態の発見問題
  ・いつもの状態と違うことを診断
  　（通常の状態から異常の状態を発見
  ・外れ値検出 / 異常値検知 / 変化点検知 / 予兆検知

• 状態推定の問題

• 問題設定
  • 観測変数X1...Xnから観測変数Yを推定
  • 推定に用いる関数

    f(Y|X1...Xn)

• 推定方法
  • 観測値から最大になる推定値を選択
  • 観測値と推定値の誤差が最小になるように関数ｆを学習

• モデル化
  推定に用いる関数をどうやってモデル化するか？

• 確率によらないモデル
  ・線形回帰モデル
  ・ロジスティック回帰
  ・サポートベクターマシン
  ・判別木、ランダムフォレスト

• 確率によるモデル
  条件付き確率の対数尤度としてf(y|x1...xn)を考えるモデル
  

  f(Y|X1...Xn) = -logP(Y=y|X1=x1...Xn=xn)

  ・ナイーブベイズ
  ・ベイジアンネットワーク

• 状態把握の問題

• 問題設定
  • 知りたいことはあるが、データにその直接的校も後がない。
  • 例えば、購入履歴の情報は在るが、購入意欲はデータに無い。

• 把握方法
  • クラスタリングと呼ばれる
  • 「データ」内で似た「個体」を集めその軸を分析
  • データ（観測変数X1...Xn）から潜在変数（潜在クラス）Yを推定（分類）

• モデル化
  

• 潜在変数モデル
  観測された変数を潜在変数の観点から説明することを目的とした数理モデル
  ・データの個体が確率分布により生じている（確率モデル）。
  ・複数の確率分布により生じた個体が混ざっている（潜在変数モデル）。
  

• 潜在クラスモデル
  調査された個体は、いずれかの潜在クラスに属すると考えるモデル

• モデルの例
  ・混合正規分布
  　・観測データが実数値の時
  　・確率分布は正規分布
  　・１・２次元の場合は見れば解るが、
  　　高次元の場合は見て解らないので学習により解決する。
  ・トピックモデル
  　観測データが離散の時
  　・PLSA
  　・LDA

• 異常状態の発見問題

• 問題設定
  （データのクラスタリングではなく）通常とは違う状態を探す。

• 推定方法
  • データ（観測変数X1...Xn）から通常の状態を求める。
  • 通常の状態から外れる個体を探す（）。

• モデル化 発見の方法例

• 外れ値検出 / 異常値検知
  ・平均値からの差による検知
  ・トレンドを考慮した拡張

• 変化点検知 / 予兆検知
  異常が続く≒データの生成構造の変化。
  ・変化点検知：変化の時点を検知
  ・予兆検知：変化の開始時点を検知

必要なデータ †

• ある程度の大きさが必要
• IDでのデータ管理が必要（データ連結のため）

• 状態推定・状態把握の問題
  • 推定したい状態はデータ項目中に含まれるか？
  • データ項目の値は信頼できる値か？
  • 推定したい状態時点でのデータが必要

• 異常状態の発見問題
  • センサーなどの時系列データ
  • データの抜けと時間分解能
  • 異常状態を説明できるデータとの連結

• データ欠損
  テストケースとしてデータを取得し補う。

設計時の諸問題 †

• データを誰が入力するか？
  • 診断には継続的な入力が必要。
  • 継続的なデータ収集の仕組みが必要。
  • 異常値検知などではデータ量が多くなる傾向

• どの程度の頻度で診断するか？
  診断の頻度≒データ入力・更新の頻度

• どの程度の頻度でモデルを更新するか？
  • 時間とともに陳腐化する場合
  • 使用可能なデータ項目が増える場合

最適化 †

数理モデルの最適化ではなく確率モデルの一つの技法（予測・診断・最適化

実行 †

予測のもとで現象を特定の目的に近づけるための操作を実行すること。

種類 †

• データの最適化
  前処理
  • 項目の選択（特徴量選択）
  • 項目の加工（次元圧縮など）
  • 欠損項目値の補完
  • スケールを合わせる

• モデルの最適化

• パラメタの最適化

• 目的変数の最適化
  • パラメタの最適化後に行う。
  • 目的変数（出力）が最大（最小）になる説明変数（入力）を検索
  • 予測問題ではなく、目的変数（出力）の最大（最小）化の問題

• モデル構造の最適化

• モデル構造が複雑になると過学習が起き易い。
• 目的関数が学習データに過剰にフィット（過学習）
• 評価関数として情報量基準などがある。

• 目的関数≠評価関数
  ・目的関数：パラメタ最適化で基準となる関数
  ・評価関数：最適化されたモデルを評価する関数

• モデル構造
  ・DNNにおける層の数
  ・ネットワークモデルの形状
  ・HMMの隠れ状態数

問題 †

• モデリングができていない。

• モデル構造
  • モデルが単純過ぎる。
    モデルが単純で、現象と乖離
  • モデルが柔軟過ぎる。
    モデルが複雑で、過剰に適合

• 学習時間
  • 学習不足：繰り返しが不足し良い解を発見できない。
  • 過学習：繰り返しが多過ぎ、学習データに過剰に適合。

• モデリングはできているが課題解決ができていない。

• 目的変数
  • 目的変数が課題解決に不十分。
  • 目的変数がモデルに含まれていない。
  • 観測変数に目的変数に関連する説明変数が含まれていない。

• プロセス
  • 前フェーズのアウトプットが
    後フェーズに伝わっていない。
  • トップダウン・ボトムアップ
    ・意思決定：課題解決
    ・モデル：モデルの決定
    ・モデル：パラメタ最適化
    ・データ：特徴量設計
    必要に応じモデリング・ループを回す。

実際 †

社会現象、社会データ †

Society 5.0 †

サイバーフィジカルシステム †

• 経済発展と社会的課題解決を両立する
• 人間中心社会、超スマート社会
• 現実世界 -> デジタル化 -> 計算モデル化 -> 意思決定 -> 現実世界
• 機械学習＋組織学習

現象学的アプローチ †

• 社会現象として予測値を設定
• ベイジアンネットワークを構築
• 確率推論によるシミュレーションによる意思決定支援

データの特性と計算モデル †

データ特性 †

• 異質性、状況依存性
  • Webサービス（RDB） -> IoTアプリ（NoSQL）
  • 時空間解像度が高い

• 条件付き確率
  条件付き確率による購買行動モデルの例
  • P（購買｜女性） > P（購買｜男性）
  • P（購買｜女性, 週末） > P（購買｜女性, 平日）

• 混合分布、相互作用
  • 混合分布：属性の異なる人々
  • 非正規性：≠正規分布（代表値の使い分け）
  • 非線形相互作用：ベイジアンネットワークで計算

• 潜在変数の想定、フレーム問題（≒人間が持つ知識）

計算モデル †

• 母集団依存性の高い従来型の統計から、
  再利用性の高い確率的構造モデルを用いた知識へ。
  • 予測モデル：ある変数を説明するルール
  • 確率的知識：変数群の依存関係の条件付き確率
  • 計算モデル：因果的構造のネットワーク

• 潜在変数の想定、フレーム問題
  • ベイズモデル？
  • フレームをベイジアンネットワークに組み込み、学習の負担を減らす。

学習と推論 †

社会データ向けのAI技術

不確実性は低いが高次元の大量データ †

深層学習（教師あり学習

不確実性が高く混合分布となっている場合 †

どう言う場合に、どう言う現象が起きるか？

• 場合
  確率的なクラスタリング（確率的潜在意味解析（PLSA））

• 現象
  属性カテゴリからある顧客クラスタと商品クラスタ（食材）の
  組み合わせ時の現象（商品の用途）をクラス毎に分類して分析する。

変数間の相互作用・依存関係がある場合 †

ベイジアンネットワーク

• PLSAのクラス毎にベイジアンネットワークの一部を拡大して分析するなど。
• 外れ方の構造をベイジアンネットワークのモデルにするなど。
  

事例 †

     

Site admin: TechInfoOfMicrosoftTech

PukiWiki 1.4.7 Copyright © 2001-2006 PukiWiki Developers Team. License is GPL.
Based on "PukiWiki" 1.3 by yu-ji. Powered by PHP 5.3.3. HTML convert time: 0.058 sec.