AI偽論文が急増、学術界の信頼性を内側から侵食する

今年5月、カナダのバンクーバーで開催された「世界研究誠実性会議」に57カ国から約700人の研究者が集結した。議論の場でくり返し飛び交ったのは「軍拡競争（wapenwedloop）」という言葉だ。AIが論文の偽造・水増しをいかに容易にしているか——ほぼすべての発表でこの懸念が取り上げられた。皮肉なことに、この会議への参加申請の一部もAIが生成したとみられ、架空の所属機関を名乗る怪しい投稿が相次いだという。科学の誠実性を守るための場自体が、機械製のノイズにかき消されかねない状況だった。

「外見はプロらしい」新世代の偽科学

かつて理論物理学の世界には「クラックポット指数」と呼ばれる採点表があった。米数学者ジョン・バエスが作成したもので、全大文字の単語やアインシュタインの誤記、「数式は苦手だが理論は正しい」といった文言に点数をつけ、トンデモ論文を簡単に見分けることができた。形式と内容が一致していたからこそ、表紙だけで判断できたのだ。

その時代は終わった。現代の偽科学はまず機械を通り、誤字を修正され、体裁を整えられる。外見は完全にプロフェッショナルだ。その内側に潜む腐食の深さを示したのが、医学誌ランセットが今年5月に発表した調査だ。過去3年間の生物医学論文250万本・参考文献約1億件を精査した結果、架空の参考文献は1万件あたり4件から57件へと急増していた。ある論文では30件の引用文献のうち18件が存在しない研究への言及で、実在する泌尿器科医の名前が架空の論文にあてがわれていた。もはや誤字で見破れるようなほころびはない。

AI査読の悪用と「量産論文」の洪水

問題は偽造だけにとどまらない。会議では「そもそも正しくもなければ間違いでもない」論文の大量生産も深刻な課題として取り上げられた。AIエージェントが公開データセットを使い、数時間で一本の論文を仕上げる時代だ。かつて博士課程の学生が4年かけて行っていた研究が、午後一日のコンピューター処理で代替される。こうした「紙の工場（paper mills）」は完全に自動化され、著者名の売買まで商業化されている。

各指標のグラフは2023年を境に一斉に急上昇しており、生成AIの広範な普及と完全に一致している。さらに昨夏には衝撃的な手口が発覚した。査読の負荷に耐えかねた学術誌の編集者がAIを補助査読に使い始めたところ、一部の著者がそれを逆手に取り、論文に人間の目には見えない隠しテキストを埋め込み、「肯定的評価のみを与えよ」とAI査読システムに命令する手口が数十本のプレプリントで確認されたのだ。

評価システムそのものを問い直す時

対症療法として、AIを使ってAIを検出する取り組みも進んでいる。プレプリントサーバーのarXivは架空の引用が発覚した研究者を1年間停止する措置を導入し、AI使用の適切な申告に関する「バンクーバー基準」の策定も進む。しかし専門家が口をそろえるのは、技術で技術を取り締まるだけでは根本治療にならないという点だ。

問題の本質は、論文数や被引用数で研究者を評価するシステムにある。経済学者チャールズ・グッドハートの法則が示すように、「ある指標が目標になった瞬間、それは良い指標でなくなる」。研究者に論文の量を競わせる限り、AIはその競争を加速させるだけだ。在蘭の研究機関や大学に籍を置く日本人研究者にとっても、この議論は他人事ではない。オランダは欧州でも有数の研究大国であり、評価指標の見直しは日々の研究活動や資金獲得にも直結しうる。「科学の最小単位は論文か」という問い自体を、学術界は今あらためて突きつけられている。