iotと分散機械学習 - meti...1....

23
IoTと分散機械学習 4/28, 2016 Preferred Networks, 丸山 資料4

Upload: others

Post on 23-Jan-2021

1 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

IoTと分散機械学習

4/28, 2016

Preferred Networks, 丸山 宏

資料4

Page 2: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

なぜエッジヘビーか

なぜ機械学習か

2

Page 3: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

2012年経済産業省「IT融合政策」

3

Page 4: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

??

IoT時代の新しいアーキテクチャは何か?

IBMホストコンピュータ

事務用・科学技術用マシン

クライアント・サーバー

3ティア(Web)

クラウド+ スマホ

?? ??

4

Page 5: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

Conjecture: “Edge-Heavy Data”

5

Page 6: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

コンピュータ科学の教え: データ独立(Codd, 1970)

6

データ App1

App2

App3

App n

データこそが価値!

Page 7: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

ビッグデータは「排気データ」

7

they are generating a tremendous amount of digital “exhaust data,” i.e., data that are created as a by-product of other activities.

http://www.mckinsey.com/insights/mgi/research/technology_and_innovation/big_data_the_next_frontier_for_innovation

Page 8: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

データ価値の多くはエッジに存在するようになる

1. センサーデータの増加によって、データの総価値はさらに増加するが、その価値密度(ビットあたり価値単価)が下がりつつある

2. 多くのデータは収集されるが利用されない。利用を見込んで投機的に事前処理することは割に合わないことがある

3. このため、多くのデータは収集された地点で格納・処理されるようになる

8

Page 9: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

IEEE Second Workshop on Architectures and Systems for Big Data (ASBD 2013)

9

“Edge-Heavy”のアーキテクチャを提案

Page 10: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

2016, エッジヘビーコンピューティング用ミドルウェアDIMo

10

Page 11: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

4月18日、ファナック、シスコ、PFN、RAのプレス発表

11

http://ascii.jp/elem/000/001/152/1152084/

Page 12: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

FANUC社の新聞広告

12

http://www.fanuc.co.jp/ja/profile/advertise/2016/20160418fieldsystem.html

Page 13: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

Edge-Heavy Computing ≠ Edge Computing

13

Page 14: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

機械学習がもたらす破壊的変革

14

Page 15: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

進化するエッジデバイス

https://www.youtube.com/watch?v=7A9UwxvgcV0

Page 16: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

機械学習によるシステム開発

16

https://research.preferred.jp/2015/06/distributed-deep-reinforcement-learning/

Page 17: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

IoT+MLにおけるシステム開発 – 分散機械学習フレームワーク

17

1. 機械学習によるモデル作成

2. 転移学習 (個体への適応)

3. データ同化・モデル更新 (データの収集とモデル更新)

DevOps スケール

運用時の進化

Page 18: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

機械学習の結果得られるものは【学習済みモデル】

18

【学習済みモデル】 = ネットワークの構造 + 各リンクの重み

出力

入力

大量の数値の列

Page 19: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

【学習済みモデル】は知財

19

学習済み モデル

データ1

汎用 モデル

データ2

汎用 モデル

•学習アルゴリズム •学習ノウハウ •計算資源 •シミュレータ

データオーナー

1次モデルオーナー

2次モデルオーナー

2次モデルの価値をどのように、データオーナーや1次モデルオーナーに還流するか?

Page 20: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

考えられるエコシステム

20

モデル市場

モデル

データ

データ

モデル

モデル

モデル

データオーナー

モデルオーナー

データ

モデルユーザー

2次モデル作成者

市場運営者

•モデル検索・リコメンデーション •モデルトレーサビリティ •来歴管理(provenance) •決済 •計算資源の提供(アルゴリズム、シミュレータ、計算パワーなど)

•匿名化、加工

モデル流通の秩序形成

データ・モデル市場監査

モデル

データ

シミュレーター

Page 21: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

Google、MS、GEの動き

21

Page 22: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

22

(IoT推進の戦略立案においては) 【学習済みモデル】の市場形成におけるリーダーシップを確立すべき

「機械学習と知財」勉強会(仮題)を産総研AIセンターと共同で企画中

Page 23: IoTと分散機械学習 - METI...1. センサーデータの増加によって、データの総価値はさらに増加するが、その 価値密度(ビットあたり価値単価)が下がりつつある

Thank You

23