「.NET 開発基盤部会 Wiki」は、「Open棟梁Project」,「OSSコンソーシアム .NET開発基盤部会」によって運営されています。
データ・パイプライン...まさに配管。
取り敢えず書いてみた、最初の版。
Databricksのセミナーに影響を受けた結果を反映。
DXは=IoT, ビッグデータ(分散処理), AIじゃねーよ。
みたいな話があったりしましたが、まぁ、ワリと、
=IoT, ビッグデータ(分散処理), AIになってしまってます♨。
まぁ、技術マッピング中に含まれているから良いのでは?と。
前述の、データレイク → データマートの処理をワークフロー化する。
データの設計や統合、クレンジングの仕組み、カタログの整備。
データ基盤のインフラ・アーキテクチャを設計し、安定して運用する。
データから価値ある情報を引き出す。
Elastic Stackは、1つの完成された事例的。
ビッグデータ界隈のシステムにおいて、
業務データを長期的に蓄積し管理したもの(なので、バッチ的アーキテクチャである)。
業務データではなく、様々なデータソースから発生するデータを対象にする。