機械学習（machine learning）のバックアップ(No.1) - .NET 開発基盤部会 Wiki

[ トップ ] [ 新規 | 一覧 | 単語検索 | 最終更新 | ヘルプ ]

「.NET 開発基盤部会 Wiki」は、「Open棟梁Project」,「OSSコンソーシアム .NET開発基盤部会」によって運営されています。

戻る（人工知能（AI） / ベイズ統計）
- 機械学習（machine learning）
- 深層学習（deep learning）

目次 †

概要 †

機械学習（machine learning）について纏める。

第２次人工知能ブームでの人工知能

人が、その機械は何を学習するか？というのを予め定義する。

「訓練データ」として知られる
サンプルデータに基づいて数学モデルを構築する。

学習の方向性を人が思い通りにコントロールがし易い。

明示的な指示を用いることなく、
- パターン（統計モデル）と
- 推論（アルゴリズム）に

依存して、特定の課題を効率的に実行する

応用例
- 商品レコメンデーション
- ...

詳細 †

理論 †

ベイズ統計が基礎 †

統計的機械学習 †

機械学習のうちデータの確率的な生成規則を学習するもの
- テストすることで得られる最高の予測結果を生成する。
- モデルの仮定や検証は悪い予測結果を出した時のみ。

参考
- 統計解析
- 結局、機械学習と統計学は何が違うのか？ - Qiita
  https://qiita.com/KanNishida/items/8ab8553b17cb57e772d6

数理最適化 †

データに対するモデル出力の誤差を定義し、
誤差を最小化するようにパラメータの更新（学習）をおこなう。
誤差を計算する関数（損失関数）を最小化する。

特徴量 †

機械学習的に言った説明変数のこと。
- 問題の解決に必要な本質的な変数
- 特定の概念を特徴づける変数

である。

この特徴量を発見できれば、
- あらゆる問題の解決につながったり、
- パターン認識精度の向上や、
- フレーム問題の解決につながったりする

と期待されている。

アルゴリズム †

適合 †

複雑なものの認識や、常値の検出
たくさんの情報の中から必要なものを探す
予測、フォーキャスト（予想や見込み）、意思決定支援
言葉を使ったコミュニケーション
新しい体験を作り出したい場合

限界 †

データの中にあるバイアス（を、そのまま学習

プリシジョンとリコールのトレードオフがある。

コールド・スタートによる誤検知がある。

モデルの検証のためのフィードバックループが必要。

Exploration(冒険、探索)とExploitation(搾取、利用)

分類 †

コンピュータとその周辺の技術・情報が発達してきたため出てきた概念

教師あり学習 †

（supervised learning）

教科書を使った勉強のように、
「結果と予測すべき答え」（訓練データ）が
与えられていて、それに至るためのシステムを作る学習手法

「予測すべき答」は
- ラベルとも呼ばれる
- 人間の専門家が訓練例にラベル付けして提供

未知のデータ「x」にそれを適用して、
予言 y = f(x) を与えることができる。

思い通りの出力を再現する機械の構成に用いられる。

重回帰分析や判別分析は教師あり学習

教師なし学習 †

（unsupervised learning）

与えられたデータセット（訓練データ）の中に予測すべき正解が与えられないまま、
データの背後に存在する本質的な構造かをデータ同士の関係から導き出すという学習

「出力すべきもの」があらかじめ決まっていない。
という点で教師あり学習とは大きく異なる。

判断ではなく、データマイニングなどグルーピングを行う、
クラスター分析、主成分分析、対応分析などは教師なし学習

半教師あり学習 †

（semi-supervised learning）

ラベルありの例とラベルなしの例を両方扱える。
すべてのデータにラベルを付けなくても良いので、効果的な学習が可能。

強化学習 †

（reinforcement learning）

赤ちゃんが泣いたり声を出したり動いたりして、
得られる結果（報酬）から何かを学んでいくように、
何かの行為の結果（報酬）からシステムを変更していく能動的な学習

周囲の環境を観測することでどう行動すべきかを学習する。

行動によって必ず環境に影響を及ぼし、
環境からフィードバックを得て、学習のガイドとする。

深層学習 †

ニューラルネットワークを使用した機械学習の一種

深層学習（deep learning）
深層強化学習（deep reinforcement learning）

思わぬ方向に学習が進む可能性がある。

その他 †

トランスダクション（トランスダクティブ推論）
観測された具体的な（訓練）例から
具体的かつ固定の（テスト）例の
新たな出力を予測しようとする。

マルチタスク学習
関連する複数の問題について同時に学習させ、
主要な問題の予測精度を向上させる。

種類 †

エキスパート・システム †

膨大な情報と条件を照らし合わせながら、最適な提案を導き出す。

推論エンジンが知識ベースを使って推論を行う。

推論エンジン（固定）
ルールベースとも言われる。

知識ベース（可変）

応用例
組み合わせが膨大となるような領域でうまく機能する。
- 自動音声応答装置、人工無脳
- 障害診断、医療診断
- 複雑系、プロセス制御
- 意思決定支援
  - 市場での推奨取引を提示
  - コンピュータ野球ゲーム

サポートベクターマシン †

統計・確率論（機械学習）

教師あり学習を用いるパターン認識モデルの一つ
- 認識性能が優れた学習モデルの一つ。
- 未学習データに対して高い識別性能を得るための工夫がある

応用例
- テキストマイニング
- 災害危険度評価
- 倒産判別問題
- 非線形な競馬予測

事例ベース推論（CBR） †

情報を蓄積して分析し、
ある事例に類似した事例を導き出す。

原型
- 自動車整備士が以前の似たような故障を思い出してエンジンの修理
- 弁護士が裁判で判例に基づく主張を展開
- 技術者が自然界にあるものを模倣

4段階のプロセス
- 検索: 問題に対応した事例を検索する。
- 再利用: 事例から与えられた問題の解法を得る。
- 修正: 新しい解法を試して、必要ならば改良を加える。
- 記憶: うまく適応した解法が得られたら、その経験を新たな事例として記憶する。

応用例
- ヘルプデスク
- 意思決定支援システム

統計的に適切なデータがないと、その一般化が正しいという保証ができない。

ベイジアンネットワーク †

因果関係を確率により記述するグラフィカル・モデル

確率推論のモデル
- 複雑な因果関係の推論を有向非巡回グラフ構造により表す
- 個々の変数の関係を条件つき確率で表す

ネットワークとは重み付けグラフのこと。

応用例
- 医者の診断
- コールセンター効率化
- レコメンド
  - EC/金融の商品の推薦
  - 優良顧客の推薦
  - マッチングビジネス

統計と機械学習 †

基礎的な違い †

どちらも
- データを使って問題を解決する
- 数学的な手法を使って質問に答えることに関心がある

ゴールと貢献の仕方が違う。

統計学
- 統計学か数学の一環
- データを“説明”すること（推定と推論）を強調
- 限られた標本から調査したい母集団全体の特徴を推測する。
- 説明変数の数が大きくなると多変量解析を使った
  変数選択手法では多重検定のリスクが大きくなる。

機械学習
- コンピュータ・サイエンスの一環
- データから“予測”することを強調
- 変数間の関係性やルールなどを機械学習による予測モデルに学習させ予測する。
- 説明変数の数が多くなる場合は、機械学習を含む解析が使える。

使い分け †

予測モデルの使い分け。

統計

モデル全体を解釈したい。
データのサンプルサイズが大きくない。
トレーニングデータを持っていない。

不確実性やランダム性がある。
信号対ノイズ比（ノイズに対するシグナルの割合）が大きくない。

不確実性や予測変数の影響度を調べる必要がある。
少ない数の変数の影響度を切り離して評価したい。

機械学習

モデルがブラックボックスで興味が無い場合。
- 複雑な構造の内部パラメタに大量のデータの情報を反映できる。
- 十分なデータを使用できれば、精度な予測・分析ができる可能性が高い。
- トレードオフとしてモデル構造が複雑で解釈性が犠牲になりがち。

大量のデータを使用して学習することが期待されている。
- データのサンプルサイズが大きい。
- 膨大なトレーニングデータで学習できる。

強い不確実性やランダム性を持たない。
信号対ノイズ比（ノイズに対するシグナルの割合）が大きい。

不確実性の推測や選択した予測変数の影響度には興味が無い。
予測がゴールで、少ない数の変数の影響は問題ではない。

活用例 †

不正会計の検知 †

Li et al

概要
- 24個の会計情報を使ったロジスティック回帰モデル
- サポートベクターマシンで不正会計確率を推定
- 一度スコアを求めるかどうかというのが違いになる。

特徴
1. 手を加えていない会計情報そのものと
  不正・非不正の情報で構成される大量データを
  訓練データとテストデータに分け訓練データでモデルを作り
  テストデータでその検知能力を調べるという一般的な研究
  ・訓練データ：1991年から2002年までのデータ
  ・テストデータ：2003年から2005年までのデータ
2. アンダーサンプリングを行っている。
  訓練データの1と0（不正と非不正）が同数になるようにサンプリング

実務家の方法を取り入れることで
先行研究よりも正判別確率の高いモデルを構築
（東海林・中村・尾崎（2020）
- 不正会計を不正手段の種類別に認識
- 貸借対照表に不正会計の歪みが蓄積されることを利用して
  その歪みから得られる違和感により不正会計を経験的に認知

MLOps †

機械学習、深層学習のライフサイクルを管理するための、
データ・サイエンティスト、エンジニア、保守運用担当者の
コラボレーションおよびコミュニケーションに関する実践手法。

機械学習（machine learning）のMLと、DevOpsとを組み合わせた造語。

CI/CD †

CT/CM †

CT †

継続的にトレーニング

CM †

継続的モニタリング

課題 †

⽣産性向上が阻害されている主な要因はデータ・ツール・デプロイ

データ（データレイク）
ツール
デプロイ

データレイク †

課題 †

以下のような課題を持っている。

低品質でサイロ化︓データ活⽤が進まない
データが”Ready” となっていない

整合性の維持
- ざっくり、スキーマが無い事が問題
- スキーマレスの状態からデータの加工に時間がかかる

更新の重複への対応
- 読み取りのスケーラビリティが高い
- 一方で、更新処理が苦手（トランザクション制御）

プロダクト †

ツール †

課題 †

以下のような課題を持っている。

⼤量のツール群︓活⽤が不⼗分
ツールやフレームワークの共有、ナレッジの管理
コラボレーション、再現性が厳しい。

プロダクト †

Keras
TensorFlow
Jupyter Notebook
PyCharm
RStudio
, etc.

デプロイ †

課題 †

以下のような課題を持っている。

本番適⽤︓MLのデプロイが困難
エラーが発⽣しやすい⼿作業によりイノベーションのスピードが減速

プロダクト †

MLflow

参考 †

Wikipedia †

機械学習
https://ja.wikipedia.org/wiki/%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92

エキスパートシステム
https://ja.wikipedia.org/wiki/%E3%82%A8%E3%82%AD%E3%82%B9%E3%83%91%E3%83%BC%E3%83%88%E3%82%B7%E3%82%B9%E3%83%86%E3%83%A0

サポートベクターマシン
https://ja.wikipedia.org/wiki/%E3%82%B5%E3%83%9D%E3%83%BC%E3%83%88%E3%83%99%E3%82%AF%E3%82%BF%E3%83%BC%E3%83%9E%E3%82%B7%E3%83%B3

事例ベース推論
https://ja.wikipedia.org/wiki/%E4%BA%8B%E4%BE%8B%E3%83%99%E3%83%BC%E3%82%B9%E6%8E%A8%E8%AB%96

ベイジアンネットワーク
https://ja.wikipedia.org/wiki/%E3%83%99%E3%82%A4%E3%82%B8%E3%82%A2%E3%83%B3%E3%83%8D%E3%83%83%E3%83%88%E3%83%AF%E3%83%BC%E3%82%AF

ニューラルネットワーク
https://ja.wikipedia.org/wiki/%E3%83%8B%E3%83%A5%E3%83%BC%E3%83%A9%E3%83%AB%E3%83%8D%E3%83%83%E3%83%88%E3%83%AF%E3%83%BC%E3%82%AF

学習 †

教師あり学習
https://ja.wikipedia.org/wiki/%E6%95%99%E5%B8%AB%E3%81%82%E3%82%8A%E5%AD%A6%E7%BF%92
教師なし学習
https://ja.wikipedia.org/wiki/%E6%95%99%E5%B8%AB%E3%81%AA%E3%81%97%E5%AD%A6%E7%BF%92