AIの危険を説く本にAI生成の偽引用が混入という皮肉

AIが人間の認知を超えた速さで「真実」を生成し、もはや人間には検証不能になりかねないと警鐘を鳴らした本が、まさにそのリスクの体現となってしまった。米国人著者スティーブン・ローゼンバウムが今月上旬に刊行した『The Future of Truth』に、AIが「ハルシネーション（幻覚）」によって生み出した架空・誤帰属の引用が複数含まれていたことを、ニューヨーク・タイムズが刊行からわずか1週間で暴露した。

著名人の「発言」が次々と否定される

問題の引用の中でも特に注目を集めたのが、米テックジャーナリストのカーラ・スウィッシャーに帰属された一節だ。「最も高度なAI言語モデルは鏡のようなもの。私たちの倫理観を洗練された言葉で映し出すが、表面の裏は空虚だ」という格調高い文章について、本人はニューヨーク・タイムズに「そんなことは言っていない」と否定。さらに「ChatGPTによると、私はまるで棒を飲み込んでいるかのような話し方をするらしい」と皮肉交じりにコメントした。感情研究者のリサ・フェルドマン・バレット教授への帰属引用も本人が内容を否定し、データジャーナリズム研究者のメレディス・ブルサードの発言はラジオインタビュー由来であるにもかかわらず著書からの引用として誤って記載されていた。こうした誤りのパターンには、大規模言語モデル特有の「もっともらしい嘘」の手口が色濃く見て取れる。

著者も出版社も見抜けなかった

ローゼンバウムは執筆・編集の過程でAIツール「Claude」と「ChatGPT」を活用していたことを認めており、その事実は著書内にも明記されていた。誤りの件数についてはニューヨーク・タイムズが「半ダース以上」と報じる一方、著者自身は「一握り程度」と述べており、調査が進むにつれてさらに増える可能性もある。見過ごしたのは著者だけではない。出版社の校閲担当者2名とファクトチェッカーも、これらの誤りをすべて見落としていた。著者は「意図的に主張を捏造しようとしたわけではない」と釈明しつつ、全責任を負うと表明。新版で修正するとしている。なお、ローゼンバウムはArsТechnicaの取材に対し、今後もChatGPTとClaudeの使用をやめるつもりはないと述べた。

出版界全体に広がる構造的課題

今回の騒動は孤立した事例ではない。今月、文芸誌グランタが主催する短編小説コンテストの受賞作がAI生成ではないかとの疑惑を呼んだ。昨年はシカゴ・サン=タイムズ紙がAIの生成した架空の夏の推薦図書リストをそのまま掲載していたことが判明している。学術論文の世界でも、存在しない文献への引用数が急増している。ローゼンバウム自身が皮肉を込めて認めたように、今回の一件は彼が本の中で主張したかったリスクそのものの実例となった。在蘭の日本人読者にとっても、日本語や英語の情報を問わず、AIツールを介して得た引用・情報の出典確認は今やルーティンとして必要な習慣といえる。出版社・メディア・読者の三者が監視の目を持たなければ、誰もが意図せず誤情報の伝達者になりうる時代が、すでに到来している。