.NET 開発基盤部会 Wiki」は、「Open棟梁Project」,「OSSコンソーシアム .NET開発基盤部会」によって運営されています。

目次

概要

  • Hadoopのデータ処理アプリケーションのためのフレームワーク
  • YARNベースで、MapReduce?の代替となることを意識している。

詳細

  • パラダイムを改善(バッチやインタラクティブなデータ処理)
    • ジョブを非循環有向グラフ(DAG)でジョブを直感的に記述することが可能)⁠。
    • 複数のMapReduce?ジョブを1つのTezのジョブとして表現できる。
  • Hadoop MapReduce?の制約を取り払う
    • データの転送に関する設定や、永続化に関する設定を記述できる。
    • 分散ファイルシステムへの入出力回数は削減されパイプライン並列性を活用できる。
  • MapReduce?ランタイムの開発も進められている。
    • CPUキャッシュを高効率に活用する外部ソート
    • Reducer数の動的再構成
    • 起動時のオーバーヘッドの削減
  • サードパーティのSQL処理系やDSLから用いられることが増えている

参考

gihyo.jp … 技術評論社

Hadoopはどのように動くのか
─並列・分散システム技術から読み解くHadoop処理系の設計と実装


トップ   編集 凍結 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS
Last-modified: 2020-10-27 (火) 12:15:55 (2d)