AIを見抜くAIは作れるか？卒論「AI代筆」問題で中国の教育現場は大混乱…日本はどう対応すべきか＝牧野武文

money voice K

6か月前

生成AIは、学生こそ利用価値のあるツールです。文献や知識の調査、概念の理解、さらには演習問題の間違ったところを解説してもらう、グラフなどの図表の制作をしてもらう。さらに高度になると、データ分析をしてもらい、得られる知見を整理してもらうなどということもできます。

日本でも、生協の調査によると、68.2%の学生が何らかの形で利用していることがわかりました。

中国では、DeepSeekがオープンソースにしたことにより、大学が学内ネットワークの閉じた空間の中で運用できるようになりました。閉じたネットワークで利用をすれば、情報が外に出ませんから、学生のプライバシーが確保できるわけです。これにより多くの大学で、学生や教官が生成AIを使うようになっています。

その一方で、問題になるのは、AIによるレポートや卒業論文の代筆行為です。これを防ぐため、一部の大学がAI検査ツールも導入し、AI度が一定基準以上のレポート、論文は受理をしないというルールを設けるようになっています。

しかし、AI検査ツールの精度の問題で、自分で一生懸命書いたのにAI度が高いと判定されて受理されないという悪夢のような事態が起きています。

今回は、AI検査ツールはどのような仕組みでAI度を判定するのかを説明し、中国の大学で起きているAI代筆の問題をご紹介します。（『知らなかった！中国ITを深く理解するためのキーワード知らなかった！中国ITを深く理解するためのキーワード』牧野武文）

※本記事は有料メルマガ『知らなかった！中国ITを深く理解するためのキーワード』2025年5月26日号の一部抜粋です。ご興味をお持ちの方はぜひこの機会にバックナンバー含め今月分すべて無料のお試し購読をどうぞ。

プロフィール：牧野武文（まきのたけふみ）
ITジャーナリスト、フリーライター。著書に『Googleの正体』（マイコミ新書）、『論語なう』（マイナビ新書）、『任天堂ノスタルジー横井軍平とその時代』（角川新書）など。中国のIT事情を解説するブログ「中華IT最新事情」の発行人を務める。

この記事の著者・牧野武文さんのメルマガ

初月無料で読む

見分けがつかないAIの創作物

今回は、卒論のAI代筆問題についてご紹介します。

「生成AIがつくった画像はすぐわかる」と主張する方がいます。つい最近までは確かにそうでした。人間の指が6本あったり、肌が異常にきれいで人工的な印象を受ける、人物の顔の目や耳のパーツが怖いほど左右で一致をしているなど、さまざまな特徴があったからです。

しかし、今、そんなことを口にすると、時代をキャッチアップできていないことを自ら晒してしまうことになりかねません。もう、画像でもビデオでも、人間が見て、見分けられるレベルではなくなっているのです。確かに、実写と比較をすればわかるかもしれません。しかし、生成AIの画像を、なんの告知もなく見せられたら、それが生成AIだと気づく人は、よほどの専門家を除いてごく一部ではないかと思います。

特に中国では、生成AI「クリング」が2.0にアップデートされて、もう、実写との区別がつかなくなっています。

クリングのウェブサイトには、さまざまなサンプル動画があがっています。左のメニューから「創意圏」というメニューをクリックしてみてください。以前のバージョンで生成された動画は、まだどこかAIらしさが残っていますが、新バージョンで生成された動画は実写と区別がつきません。

特に「短片」（ショートフィルム）のコーナーは必見です。非常に力の入った作品が投稿されていて、映像クリエイターであれば見ているだけで刺激を受けるはずです。

このような生成AIの進化により、ECに問題が起きています。淘宝網（タオバオ）などのECの販売業者の間では、特に女性向け商品では、モデルは生成AIを使うのが半ば常識になっています。モデルを生成AIにし、それと衣類などの商品の製品写真を組み合わせると、AIが仮想モデルに商品を着させてくれます。そして、好きな背景を選び、好きなポーズをとらせて製品写真を完成させます。

言うまでもなく、人間のモデルの撮影はコストもかかり、手間も時間もかかるからです。今日すぐに販売を始めたいという場合でも、人間モデル撮影では無理ですが、AIモデルであればじゅうぶん間に合います。AIモデルは、データを購入する場合もあれば、人間のモデルを360度撮影してデータ化しておくこともあります。

実物よりも良く見せてしまうAI広告

ここまでは、販売業者の業務効率をあげる手法として問題はありませんでした。しかし、今度は商品まで生成AIで生成してしまう例が増えてきました。質感を変えて、安物を高級品のように見せたい。余計なシワが出ないためすっきり見える。微妙な色味を調整して華やかに見えるなど、要は本物の商品よりもよく見せようというわけです。

しかし、これが「買ったら商品写真と違った」という苦情になっています。それが少ないうちは返品をすればいいことですが、増えてくると、商品写真そのものが信用できなくなり、購買意欲が減退していくことになります。

タオバオ運営は、今年3月から対策に乗り出しています。生成AIによる画像を識別するソフトウェアを開発し、常時、商品写真をパトロールするようになりました。また、コメント欄を分析するツールも使って、画像とコメントから、商品写真と実物の差が大きいことが問題になっている商品写真を特定します。

その内容に応じて、写真の差し替えを命じたり、商品の販売停止、場合によっては販売業者のアカウント停止までの処置をとります。最初の２週間で、10万枚の商品写真を削除させたそうです。

しかし、一方で、画像に加工がしてあるからそれだけで問題とは言えません。AIを使わない業者でも、Photoshopで小さな影やシワを除去してよく見せることはやっていますし、生成AIを使っても、消費者が問題を感じていないのであれば問題はありません。使い方が問題なのです。

Next: 学生たちはどう不正行為に使う？日本の教育現場でも同様の問題が……

学生にとっては必需品に

生成AIを最もよく使っているのは学生ではないでしょうか。課題をする時、レポートを書く時、もはや生成AIなしにはどうやってやったらいいのかわからないほど浸透をしています。

実際に学生は、生成AIをどのくらい使い、どのように使っているのでしょうか。貴重な情報源が、生成AI「Claude」（クロード）を開発したアンソロピックの調査です。「Anthropic Education Report: How University Students Use Claude」（アンソロピック・教育レポート：大学生はどのようにClaudeを使っているか）です。

このレポートはかなり信頼ができます。というのは、実際に使っている学生Claudeユーザー約100万人の実際のClaudeとの対話に基づいた調査だからです。アンケート調査ではないために、余計なバイアスがかかってなく、リアルな姿を浮かびあがらせています。

アンソロピックでは、このような調査を行うために、Clioと呼ばれるツールを開発しました。アンソロピックが、勝手にユーザーの対話を収集することはプライバシーの侵害ですからできません。しかし、Clioはユーザーの対話を分類し、その結果だけを送信して集計します。対話の中身は見ていません。

このClioを使って、57万4,740件の対話の属性を収集し、これを整理したのが、前述のレポートです。

学生が不正行為をする場合に使いがちなのが、プロンプトを入力して、文章を生成するという使い方です。アンソロピックは対話の中身を見てなく、使われている文脈も把握ができないため、このような使い方のどのくらいが不正行為に使われているかということはわかりません。

しかし、文章を生成させる使い方が、Claudeを使ううちの47%にもなりました。もちろん、すべてが不正行為ではありません。知識を学ぶために、辞典がわりに使ったかもしれませんし、プログラミングを勉強するためにコードを出力したのかもしれません。しかし、明らかに課題や演習問題の解答を求めるために使われたと推定できる例も多くあったということです。

つまり、想像以上に、好ましくない使い方が広がっているかもしれないのです。これを「課題というのは自分でやってこそ意味がある。何のために大学に通っているのか」と非難をすることは簡単です。しかし、学生にしてみれば、明日の朝までに課題を出さなくてはならないとか、AIに聞けばすぐわかるような課題を出されて、それを自分で考えることに意味を見出せないとか、いろいろ言い分があるかもしれません。そして、人類の大原則「楽ちんな方がいい」は、誰も逃れることができない麻薬なのです。一度、楽をする方法を覚えてしまうと、それがいけないことだとわかっていてもなかなか戻せないというのが人間です。

ですので、教育とAIは非常に難しい問題で、AIの利用は慎重にすべきですが、大学がいくら禁止をしたところで、スマートフォンで気軽に使われてしまうことは止めるわけにもいきません。

日本でも同様の問題が起きている

日本でも、さまざまな大学が、AI利用のガイドラインを出しています。例えば、日本大学では学長ブログの形でガイドライン案を提案しています。これによると、「生成AIのみによって生成されたもの」は学生独自の成果物とみなさないということが中心になっています。日本大学はこのガイドライン案から出発をして、実際の現場の声を基にガイドラインを洗練させていくことになると思います。

中国ではこのガイドラインがより進んでいて、2024年には学位法の改正案の中で、「学位論文の生成AIによる代筆」を法律として禁止する条項が盛り込まれました。これは大きな議論を呼び起こしました。100%のAI代筆を学位論文として認めないという点は誰もが同意をします。しかし、データ解釈をAIに分析させた、難しい部分をAIに生成させた、論文の展開構成をAIに出力させた場合はどうなるのかという「ライン引き」の問題が議論をとなりました。

もうひとつは、AI代筆の論文をどうやって見分けるのかという問題です。世の中には、すでにAI代筆を見分けるツールがたくさん出回っています。しかし、どれも完璧ではなく、誤判定が起きることが前提での利用となっています。まだまだ、AI度判定には技術開発が必要なのです。

Next: どうやってAIの仕業だと見抜く？中国の大学がやった2つの施策

どうやってAIの仕業だと見抜く？中国の大学がやった2つの施策

結局、この学位法改正案のAI代筆部分は、時期尚早として先送りになりました。しかし、これを受けて、各大学は2つの施策を一斉に取りました。

ひとつは、AI利用のガイドラインを定めたことです。どのような場合に使ってよく、どのようなことに使ってはいけないかを明確にしようとしています。

もうひとつは、AI度検査ツールの導入です。レポートや論文を入力すると、そのAI代筆割合をレポートしてくれるツールです。多くの大学では、ただ導入をして、学生が自分の参考にしたり、検査ツールの使い方を考える上でのデータにしようとしていますが、問題なのは、勇足で「検査ツールでAI度が一定以上のレポートや論文は受理しない」というルールを設けてしまった大学があります。四川大学、華中科技大学、天津科技大学、福州大学などです。

このような大学では、学生から悲鳴があがっています。なぜなら、AIはほとんど使わず、自分で一生懸命書いたレポートや論文が、基準値以上と判定されてしまい、受理されないという問題が起きているからです。

今回は、アンソロピックのレポートをご紹介して、学生がどのようにAIを活用しているのかをご紹介します。そして、AI検査ツールの原理についてご紹介し、中国の大学で起きている「自分で書いた論文がAI代筆だと判定される」悪夢についてもご紹介します――

（続きはご購読ください。初月無料です）