人型ロボットだけじゃないイーロン・マスクの大本命。テスラ製スパコンDojoの桁違いの実力とは？

by 中島聡『週刊 Life is beautiful』

3年前

8月19日に開催されたテスラの技術イベント「Tesla AI Day」。国内の一般マスコミでは、その席でイーロン・マスクが開発を宣言した人型ロボット「Tesla Bot」ばかりが取り上げられましたが、専門家が思わず嘆息するような技術の発表が多々あったようです。その模様を紹介するのは、「Windows95を設計した日本人」として知られる米シアトル在住の中島聡さん。中島さんは今回のメルマガ『週刊 Life is beautiful』で、既存の自動車メーカーには不可能なテスラの自動運転システム開発手法や、目眩すら覚えたという同社のマルチ・チップ・モジュール等を詳細にレポートしています。

【緊急告知・LIVE配信のお知らせ】

現代の日本が抱える課題をテクノロジーの観点から議論！中島聡さんが設立した団体、シンギュラリティ・ソサエティの創立3周年を記念して、共に同団体を立ち上げた夏野剛氏をゲストに迎え、メルマガ読者を対象に、現代の日本が抱える課題をテクノロジーの観点から議論するライブ配信を行います。この機会にぜひ初月無料のメルマガお試し購読をどうぞ。

テーマ：Invent or Die – 未来の設計者たちへ10：中島聡×夏野剛

日時：2021/8/24（火）22:00～23:15

この配信はメルマガ読者限定配信です。事前にメルマガの読者登録をお済ませください（初月無料のお試し購読期間でも視聴できます）。

視聴忘れのないように、まぐまぐ！Liveアプリでフォローをお願いします。配信開始時に通知が届きます。視聴方法はこちらから。
※配信内容・時間は変更になる場合があります

プロフィール：中島聡（なかじま・さとし）
ブロガー／起業家／ソフトウェア・エンジニア、工学修士（早稲田大学）／MBA（ワシントン大学）。NTT通信研究所／マイクロソフト日本法人／マイクロソフト本社勤務後、ソフトウェアベンチャーUIEvolution Inc.を米国シアトルで起業。現在は neu.Pen LLCでiPhone/iPadアプリの開発。

世界の未来を予測するエンジニア・中島聡さんのメルマガご登録、詳細はコチラ

Tesla AI Day ～驚異の自動運転技術と半導体チップ

先週、Teslaが「Tesla AI Day」というイベントを開きました。去年の9月に開かれた「Tesla Battery Day」以来の技術イベントです。

株主や消費者向けのイベントではなく、技術的なことを深掘りするイベントで、対象としているのは、私のように技術面からTeslaのことを見ている技術者向けのイベントで、一番の目的は技術者のリクルーティングにあります。

前半は、自動運転ソフトウェアの話で、まずは自動車、路側帯、車線などの物体認識技術を解説し、その後、その情報を利用して、どうやって自動運転を行なっているかを解説しています。

この分野に興味のある技術者にとっては、どんな教科書を読むよりも良い勉強になると思います。専門用語がたくさん出てくるので、初心者には少し辛いかも知れませんが、このビデオを見ながら、分からない言葉が出てきたら調べる、という見方でもとても良い勉強になると思います。私が、大学で人工知能の授業を担当していたら、このビデオを見た上で、感想を含めたレポートを学生に書かせるだろうと思います。

ちなみに、人工知能で使われている深層学習は、ニューラルネットと呼ばれる一連（＝レイヤー上に並べられた）の行列演算を活用していますが、前半のレイヤーがFeature Extraction（特徴抽出）と呼ばれるもので、そこで「丸いものがある」「斜めの直線がある」などの基本的な特徴を抽出し、その情報を元にして、後半のレイヤーで「この部分に自動車がある」「ここに車線が斜めに走っている」などの高度な物体認識を行なっています。

この図（53:00から）は、Teslaの技術者がHydraNetsと呼ぶ構造で、物体認識、信号認識、車線認識の3つのタスクを行う際に、Feature Extractionの部分までは同じネットワーク（一連の行列計算）を使うことにより、それぞれ別々のニューラルネットワークを使うのと比べて、大幅に計算量を減らしているそうです。

さらに面白いのは、Feature Extractionの結果をディスクにしまうことにより、ニューラルネットワークのトレーニングに生かしているという点です。

Teslaの自動運転は、まだ不完全なため、ドライバーが常にハンドルを握って、いざという時には、自らハンドルを切って事故を防ぐ必要がありますが、その動作をTesla車は、自動運転ソフトの誤動作と認識して、サーバーにシグナルを送るように出来ています。

Teslaはサーバー側でそれらの情報を活用して、自動運転ソフトを日々改良していますが、必要に応じて、新しいアルゴリズムをテスト用に自動車に送り込み、（実際の運転はせずに）シャドーモードで動かすことによりテストを行なっているそうです。

つまり、「路肩に止まっている緊急車両を見逃した」ケースがあれば、それに対処するようにソフトウェアをアップデートした上で、そのソフトを実際の車両に送り込み、前もってディスクにしまっておいたFeature Extractionの結果をベースに、アップデートした上位のレイヤーに渡し、正しく緊急車両を認識したかどうかのテストが行えるのです。

こんなソフトウェアのデバッグの仕方が出来てしまう点がTeslaの凄さであり、ソフトウェアのことが理解出来ていない人々が会社を経営し、ソフトウェアの開発は外注に丸投げしてしまうような既存の自動車メーカーには、決して出来ない芸当です。

世界の未来を予測するエンジニア・中島聡さんのメルマガご登録、詳細はコチラ

後半は、ニューラルネットのトレーニング用のハードウェアの話でしたが、こちらも桁違いでした。TeslaはNvidiaのGPUで構築したスーパーコンピュータをトレーニング用のマシンとして、これまで使って来たことが知られていますが、ついに、自分たちで専用のスーパーコンピュータDoJoを半導体チップから設計してしまったのです。

Teslaの技術者が作った半導体はD1と呼ばれていますが、深層学習に最適化されたコア（＝training node）を354個持つチップです。1つのコアが1,024 GFLOPSの計算能力を持つため、チップ全体では、362 TFLOPSの計算能力を持ちます。

私が開発に使っているAppleのM1チップが2.6 TFLOPSなので、これだけで桁違いの性能があることが分かります。

Teslaはこのチップを25個搭載したマルチ・チップ・モジュールをTraining Tileと呼び、これを複数個組み合わせることにより、トレーニング用のスーパーコンピュータを構築していますが、このモジュール一つだけで9 PFLOPSの計算能力を持ちます。

日本政府が2012年に1,000億円以上を投じて作った「スーパーコンピュータ京」が10 PFLOPSだったことを考えると、目眩がします。

Teslaは、現在、このモジュールを120個組み合わせたスーパーコンピュータを構築しており、それが完成すれば、世界で最初のexascale（計算能力が1 EFLOPSを超えること）のコンピュータの誕生となります。

人工知能を応用したソフトウェアの開発においては、トレーニングに必要なデータの量が鍵を握りますが、データ量に関しては、既に100万台以上の自動車を走らせてデータを集めているTeslaが他社を圧倒しています。

当然、大量のデータを処理するには、莫大な計算能力が必要で、Teslaはそのためだけに、世界で最速のスーパーコンピュータをチップレベルから開発しているのです。

機械学習用のトレーニングコンピュータのニーズは高まる一方なので、もし、今回Teslaが発表したスーパーコンピュータ・モジュールの開発・販売するベンチャー企業が上場でもしたら、それだけで$100 billionぐらいの市場価値がついても全く不思議はないぐらいの凄い話です。

Tesla Dojoに関しては、「Tesla Dojo – Unique Packaging and Chip Design Allow An Order Magnitude Advantage Over Competing AI Hardware」という詳しい解説記事が既に書かれているので、興味のある人は参照してください。

ここでプレゼンが終われば良かったのですが、最後にイーロン・マスクが出てきて、「Teslaはヒューマノイド型のロボットを作る」と宣言したので、市場には戸惑いが生じています。

イーロン・マスクからすれば、技術的には自動運転車の延長上にあるし、優秀な技術者を集めるには良い広告塔になると考えたのでしょうが、Teslaが持つ「維持可能な地球を実現する」というビジョンからは少し外れている点が、混乱を招いたのだと思います。（続きはご購読下さい・この号残約16,819文字）

※編集部註：FLOPS（フロップス）はコンピュータの性能指標の一つで、1秒間に浮動小数点演算が何回できるかの指標値。1T（テラ=10の12乗）FLOPSで1秒間に1兆回、1P（ペタ=10の15乗）FLOPSで1000兆回、1E（エクサ=10の18乗）FLOPSで100京回。

（※本記事はメルマガ『週刊 Life is beautiful』2021年8月24日号より一部抜粋したものです。同号掲載の記事は以下の通りです、この機会にぜひご登録ください）

中島聡『週刊 Life is beautiful』2021年8月24日号ラインナップ

今週のざっくばらん

Ginkgo Bioworks（リスクは高いものの大きなポテンシャルを持つ会社について）
Tesla AI Day（本記事。米テスラが開いた技術イベント）

私の目に止まった記事

Tesla’s ‘future holy grail’ hits snag with autopilot probe, Wedbush’s Dan Ives explains（米国のNHTSAが Tesla のオートパイロットの安全性の調査を開始）
Disney gains on Netflix: Recounting the quarter in streaming（Disney+ が、後発にしては健闘しており今や Netflix に続く第二位のポジションに）
Waymo Is 99% of the Way to Self-Driving Cars. The Last 1% Is the Hardest（ワクチンの効果が証明され、各国で接種が進む中、Pfizer や Moderna が値上げをしている）

質問コーナー

世界の未来を予測するエンジニア・中島聡さんのメルマガご登録、詳細はコチラ

【緊急告知・LIVE配信のお知らせ】

現代の日本が抱える課題をテクノロジーの観点から議論！中島聡さんが設立した団体、シンギュラリティ・ソサエティの創立3周年を記念して、共に同団体を立ち上げた夏野剛氏をゲストに迎え、メルマガ読者を対象に、現代の日本が抱える課題をテクノロジーの観点から議論するライブ配信を行います。この機会にぜひ初月無料のメルマガお試し購読をどうぞ。

テーマ：Invent or Die – 未来の設計者たちへ10：中島聡×夏野剛

日時：2021/8/24（火）22:00～23:15

この配信はメルマガ読者限定配信です。事前にメルマガの読者登録をお済ませください（初月無料のお試し購読期間でも視聴できます）。

視聴忘れのないように、まぐまぐ！Liveアプリでフォローをお願いします。配信開始時に通知が届きます。視聴方法はこちらから。
※配信内容・時間は変更になる場合があります