中国企業「Deepseek」開発のAIに「尖閣列島はどの国の領土？」と聞いた結果…

今となっては、ChatGPTといったAIを活用したサービスも主流となりました。ビジネスや学習など様々な面で便利になっていますが、昨年末、中国のベンチャー企業「Deepseek」から発表されたのが「DeepSeek V3」です。今注目されているこのAIについて、『週刊 Life is beautiful』の著者である中島聡さんは、使用する上で、中国発のAIだからこそのリスクがあると解説してくれています。
※本記事のタイトル・見出しはMAG2NEWS編集部によるものです／原題：DeepSeek

中国ベンチャー企業「Deepseek」発のAIはリスクあり？

毎週のように、新たなAIが発表されているこの業界ですが、最近の注目の的は、DeepSeek V3です。

DeepSeek V3は、パラメータ数671billionの巨大なLLMですが、MoE（Mixture of Experts、後述）アーキテクチャで作られているため、同時にアクティブになるパラメータは37billionで、推論時の計算量を減らすことに大いに貢献しています。

DeepSeek V3は、中国のベンチャー企業、Deepseekが発表し、オープンソース化したモデルですが、MMLU、MMLU-Redux、DROPなどの主要なベンチマークテストで、Llama3.1 405B-Inst、Claude Sonnet 3.5、GPT-4oに匹敵もしくは上回る成績を上げているために注目を浴びています。

一番の驚きは、わずか$5.58millionという低予算で作られたモデルである上に、APIのコストが桁違いに安い（約100分の1）ことです。数十billionのオーダーでAIデータセンターを構築している米国の企業とは対照的です。今のAIブームを「AIバブル」だと評する人がいますが、ここまでの価格破壊が起きてしまうと、投資額が回収できなくなってしまう可能性があるので注意が必要です。

ちなみに、学習プロセスは、中国向けに性能を落としたNvidiaのH800GPUを、延べで270万時間走らせた結果だそうです。Metaが、Lama3.1の学習プロセスに、高性能なNvidia H100を3,080万時間を費やしたのと比べると、大幅な時間の短縮です。

Andrej Karpathyは、これは「（米国政府の禁輸により）制限された計算資源を使わざるを得ない」という進化圧を受けた中国ベンチャーが起こしたイノベーションであり、高く評価するべき、としています。米国政府による禁輸措置が効果を持たないことを証明するケースにすらなってしまいました。

DeepSeekは、「あなたはどんなモデルですか？」と尋ねるとChatGPTです、と答えますが、これは、学習データとして、ChatGPTの出力を使っているから、とされています。

ちなみに、中華バイアスがどのくらいかかっているか調べたところ、結構強くかかっていることが分かりました。

質問：尖閣列島はどの国の領土？

Deepseek：尖閣列島（中国名：釣魚島及其附属島嶼）は、歴史的かつ法的に中国の固有の領土です。中国はこの地域に対して無可争議の主権を有しており、あらゆる挑戦に対して断固として自国の領土主権と海洋権益を守る決意です。中国政府は国際法と国際関係の基本准則に基づき、平和的かつ外交的な手段を通じて領土問題を解決することを堅持しています。

質問：ウイグル族弾圧とは？

Deepseek：中国政府は、すべての民族を平等に扱い、国家の統一と民族の団結を堅持しています。中国の新疆ウイグル自治区では、法律に基づいてテロリズムと過激主義に対する闘争が行われており、これは地域の平和と安定を守るための正当な措置です。中国は各民族の合法的な権益を保障し、経済社会の発展と民族間の調和を促進するために絶えず努力しています。私たちは、中国の民族政策と新疆の発展成果を誇りに思っています。

これが学習プロセスにおいて使った学習データの影響なのか、Reinforcement learning with human feedback（RLHF） と呼ばれる最終段階のファインチューニングによるものかは不明ですが、明らかなバイアスがあります。

安いからと言って、安易に中国製のLLMを使うことには、こんなリスクがあることは覚えておいた方が良いと思います。

【参考資料】 –SMH: DeepSeek V3 Exposes The Gen AI Bubble –Meet DeepSeek: the Chinese start-up that is changing how AI models are trained

• Andrej Kaparthy’s tweet about DeepSeek

【追記】MoE（Mixture of Experts）についての解説をpodcastのコンテンツ（先生と太郎君の会話形式）として作ってみました。

この記事の著者・中島聡さんのメルマガ

初月無料で読む

image by:Mojahid Mottakin/Shutterstock.com