WikipediaにAI生成のデマ記事が大量に投稿される！対策は？

インターネット百科事典Wikipediaで、深刻な問題が発生しています。

2024年11月時点で、英語版Wikipediaの全記事のうち、約5%に相当する34万件以上の記事がAIによって生成された可能性が高いと報告されています。

これらの記事の中には、トルコに実在しないはずの要塞「アンベルリシハール」に関する2,000語を超える詳細な記述など、AIによる虚偽情報が含まれています。

この記事では、AIクリーンアッププロジェクトに参加する75人のボランティア編集者たちの活動や、日本語版Wikipediaが直面している独自の課題、そしてAI時代における百科事典の在り方について詳しく解説します。

驚愕！Wikipediaで暴走するAI生成記事の実態

近年、Wikipedia上ではAIによって生成された虚偽情報を含む記事が大量に投稿されるという深刻な問題が発生しています。

2024年11月時点では、英語版Wikipediaの約689万件の記事のうち、約5％に相当する34万件以上の記事がAIによって生成された可能性が高いとされています。

架空の要塞「アンベルリシハール」事件とは

Wikipediaで問題となっているAI生成記事の代表例が、トルコにあるとされる架空の要塞「アンベルリシハール」に関する記事です。

この記事には以下のような内容が記されていました。

しかし実際には、この要塞は存在せず、2,000語を超える詳細な内容は全てAIによる虚偽情報でした。

記事は2023年1月に投稿され、11カ月にわたって公開された後、同年12月に削除されました。

アンベルリシハール要塞の事例は、AIが歴史的事実をベースに、民間伝承などの要素を織り交ぜて架空の情報を作り上げる「ハルシネーション」と呼ばれる現象の典型例と言えます。

人間が考える単なる嘘とは異なり、AIによるハルシネーションは複雑で深みのある虚偽情報を生み出す危険性があるのです。

問題の根底にある”ハルシネーション”の脅威

AIによるハルシネーションは、事実ではない自信のある発言と定義されます。

前述のアンベルリシハール要塞の例のように、AIは既存の断片的な情報をつなぎ合わせ、独自の解釈を加えることで、リアリティのある架空の事象を作り上げてしまうのです。

ハルシネーションによる虚偽情報が深刻な問題である理由は以下の通りです。

このように、ハルシネーションによる情報汚染は、人類の共通認識そのものを歪める可能性すらあります。

Wikipediaが大量のAI生成記事によって信頼性を失えば、それを一次情報として扱う二次情報も汚染され、真実と虚偽の区別があやふやになってしまうのです。

AI生成記事の特徴的な”言い回し”

AIが生成した記事には、特徴的な言い回しがあることが分かっています。

例えば、以下のような表現がよく使われます。

これらの言葉は、大規模言語モデルがトレーニングデータの限界を認識し、自身の知識に不確かさがあることを示唆するために使用する傾向にあります。

また、旅行雑誌などの学習データの影響から、「リッチタペストリー」のような誇張表現も多用されるようです。

こうした特徴的な言い回しは、AIが生成した記事を見分けるための重要な手がかりとなります。

Wikipediaのボランティア編集者たちは、疑わしい記事をチェックする際、これらの表現を目印にしているのです。

AIクリーンアッププロジェクトの挑戦

Wikipediaでは、AIによる虚偽情報の氾濫に対抗するため、ボランティア編集者たちによる「AIクリーンアッププロジェクト」が立ち上げられました。

このプロジェクトでは、AI生成が疑われる記事を発見し、ハルシネーションが含まれる悪質な記事を取り締まる活動を行っています。

75人のボランティアたちの戦い

2024年11月時点で、AIクリーンアッププロジェクトには約75人のボランティア編集者が参加しています。

彼らは日々、以下のような作業に取り組んでいます。

ボランティア編集者たちは、限られた人数で膨大な量の記事と向き合っています。

AIの生成速度が人間の管理能力を上回る事態も懸念されており、彼らの献身的な活動がWikipediaの信頼性を守る上で重要な役割を果たしているのです。

疑わしい記事の発見方法①：目視確認の重要性

AI生成記事を見分ける方法の1つが、編集者による目視確認です。

Wikipediaの記事には、独自の執筆スタイルやガイドラインがあります。

それらを熟知した編集者の目から見ると、AIが生成した不自然な文章や構成を発見しやすいのです。

具体的には、以下のような特徴に注目します。

機械的な検出ツールに頼るのではなく、人間の編集者による目視確認が重視されているのは、彼らがWikipediaの特性を深く理解しているからです。

長年の経験に基づく勘を頼りに、AIによる虚偽情報を見抜いているのです。

疑わしい記事の発見方法②：怪しい出典との格闘

AI生成記事のもう1つの特徴が、出典情報の不審さです。

例えば、ある昆虫の記事で引用されていた論文が、実は全く別の生物に関するものだったというケースがありました。

このように、一見関連性のありそうな論文を引用することで、記事の信憑性を高めようとするAIのハルシネーションが存在します。

こうした記事は、専門知識がないと見抜くのが難しい場合があります。

疑わしい出典を発見するためのポイントは以下の通りです。

出典の真偽を見極めるには、該当分野の専門知識と丹念な調査が必要不可欠です。

ボランティア編集者たちは、自らの時間を割いて論文を読み込み、記事の信憑性を確かめる地道な作業を続けているのです。

なぜAI検出ツールは役に立たない？

AI生成記事への対策として、GPT3などのAIを用いた検出ツールの使用が提案されることがあります。

しかしWikipediaでは、こうしたツールへの依存を避け、人間の編集者による目視確認を重視しています。

その理由は以下の通りです。

GPTゼロの限界と人間の判断力

AI検出ツールの代表例である「GPTゼロ」は、2023年11月時点で以下のような制度を示していました。

この数字を見ると、GPTゼロを使ってWikipedia全体をチェックした場合、以下のような問題が生じる可能性があります。

つまり、AIによる検出ツールは利便性が高い反面、見逃しと誤検知のリスクが避けられないのです。

これらの誤りを修正するには、結局のところ人間の編集者による確認作業が必要になります。

また、Wikipediaではある程度のAI使用が許容されています。

問題となるのはハルシネーションを含む虚偽の記事であって、事実に基づく正確な記事であればAIを活用しても構わないというスタンスなのです。

そのため、AIによる検出ツールで機械的に記事を削除するのではなく、人間の目で内容を吟味することが重視されているのです。

経験豊富な編集者たちの勘と知識が、Wikipediaの信頼性を支える重要な要素となっています。

冤罪のリスクと対策コスト

AI検出ツールによる誤検知は、単なる手間の問題だけではありません。

善意の編集者が作成した正確な記事が大量に削除されてしまえば、Wikipediaコミュニティの士気にも悪影響を及ぼしかねません。

無用な冤罪を避けるためには、編集者一人ひとりが疑わしい記事をチェックし、AIとの「共犯関係」を避ける地道な活動が欠かせないのです。

ツールに頼って安易な大量削除を行えば、かえって問題を複雑にしてしまう危険性があります。

また、AIの検出ツールを導入・運用するためには、それなりのコストがかかります。

Wikipedia編集に携わるボランティアたちの多くは、限られた時間の中で無償の奉仕活動を行っています。

検出ツールの誤作動に振り回されるくらいなら、最初から人間の目で地道に記事をチェックした方が、トータルのコストを抑えられるというわけです。

Wikipediaの質を守るためには、最新テクノロジーへの安易な依存ではなく、コミュニティを作る「人」の力が何より重要なのです。

日本語版Wikipediaの現状と課題

英語版Wikipediaを中心に、AI生成記事の問題が大きな注目を集めていますが、日本語版の状況はどうなっているのでしょうか。

調査の結果、日本語版では英語版とは異なる課題が浮き彫りになりました。

英語版との違い – 翻訳プロセスが持つ”フィルター効果”

日本語版Wikipediaの記事の多くは、英語版からの翻訳です。

このことが、AI生成記事の問題に大きな影響を与えています。

翻訳のプロセスを経ることで、英語版で作成された記事は自然とフィルタリングされます。

なぜなら、翻訳者は原文の内容を理解した上で日本語に置き換えるため、明らかな虚偽や不自然な記述を見抜きやすいからです。

実際、英語版で発見されたAIの「癖」をもとに日本語版を調査したところ、疑わしい記事の割合は英語版よりもはるかに低いことがわかりました。

英語版からの翻訳という日本語版の特性が、結果的にAIによる虚偽情報を排除する「フィルター」の役割を果たしているようです。

とはいえ、日本語で直接作成された記事については、英語版と同様の問題が生じる可能性は十分にあります。

日本語特有の検出の難しさ

一方で、日本語版特有の課題もあります。

それは、日本語におけるAIの「癖」の把握が困難なことです。

英語版では、「私の知識の範囲では」といった典型的なAIの言い回しが知られていますが、日本語ではこうした表現の特定が難しいのです。

その理由は以下の通りです。

日本語におけるAIの言語的特徴を解明するには、大量の記事データを集めて綿密な分析を行う必要があります。

しかし現状では、そのためのリソースが十分に確保できていないのが実情です。

英語版で培われたノウハウをそのまま日本語版に適用することは難しく、日本語独自の対策を講じる必要に迫られています。

AIによる虚偽情報の脅威は、言語の垣根を越えて広がりつつあるのです。

今後のWikipediaはどうなる？

AI生成記事の問題は、Wikipediaの未来を左右する重大な課題です。

現状の対策を強化しつつ、中長期的な視点から抜本的な解決策を模索することが求められています。

警告システムの仕組み

現在、Wikipediaでは段階的な警告システムを導入することで、AI生成記事への対応を進めています。

その仕組みは以下の通りです。

この仕組みにより、一定の抑止力を期待できます。

しかし、AIの技術進化のスピードを考えれば、警告だけでは不十分な可能性もあります。

抜本的な対策としては、投稿された記事の自動検証システムの導入や、編集者の登録制の強化などが検討されています。

ただし、こうした施策にはコストや運用面での課題もあり、慎重な議論が必要です。

いずれにせよ、Wikipediaの信頼性を維持するためには、ボランティア編集者たちの地道な活動と、コミュニティ全体の危機意識の共有が欠かせません。

AIによる脅威に立ち向かうには、人間の英知と連帯が何より重要なのです。

編集者たちの声 – 現場からの報告

最前線で奮闘するボランティア編集者たちは、AI生成記事の脅威を身をもって実感しています。

彼らの声は、問題の深刻さを物語っています。

現場の編集者たちは、AIとの果てしない「いたちごっこ」に疲弊しながらも、Wikipediaの理念を守るために日夜奮闘しています。

彼らの献身的な努力なくして、Free Encyclopediaの理想は成り立たないのです。

私たち利用者も、Wikipediaの信頼性を当然視するのではなく、その裏側にある人々の尽力に思いを馳せる必要があります。

AIの脅威に立ち向かうのは、特別な誰かではなく、Wikipediaを愛する一人ひとりなのです。

AI時代の百科事典に求められるもの

AI生成記事の問題は、Wikipediaという枠を超えて、知識のあり方そのものを問い直す契機となるでしょう。

これからの時代に求められる百科事典とは、単なる情報の羅列ではなく、事実と虚構を選り分ける「知の航海図」ともいうべきものです。

AIによる創作と人間の知性が融合する中で、真に信頼に足る知識を見極める力が問われているのです。

Wikipediaは、こうした挑戦の先駆けとして、AIと人間の共生の在り方を模索しています。

encyclopediaという概念そのものを再定義する試みとも言えるでしょう。

AIの脅威に立ち向かうWikipediaの挑戦は、知識をめぐる人類の営みの新たな一歩を示唆しているのかもしれません。

私たち一人ひとりが、その歴史的な意義を自覚し、Wikipediaの未来を見つめ続けることが大切です。

真の知識とは何か。

その問いに向き合う勇気こそ、AI時代を生き抜く私たちに求められているのです。

まとめ：AIによるWikipedia情報汚染の実態と対策について