陰謀論者、AIになら即論破され説得されてしまうことが判明 米アメリカン大学などの調査グループ

AIなら陰謀論者を説得できる？　チャットで3往復→信念に揺らぎ
https://news.yahoo.co.jp/articles/506b4d8b1d45520ca08562d2e26c293e598381ce

論文が13日、米科学誌サイエンス(https://doi.org/10.1126/science.adq1814)に掲載された。

　事実に基づかない陰謀論は、インターネットの普及とともに世界中で広がっている。2021年に米国で起きた連邦議会議事堂襲撃事件も、トランプ前大統領が敗北した大統領選の結果を不正だと信じ込む陰謀論の影響が指摘されている。

　チームはAIによるチャット形式の会話機能を使い、陰謀論に対する信念の変化を調べる実験をした。

　実験のやり方はこうだ。

　まず、参加者には、新型コロナや月面着陸などに関して、自分が説得力があると感じている陰謀論について理由とともに自由に入力してもらう。その言説をAIが要約する。要約された文章に対し、参加者は0（完全に誤り）～100（完全に真実）の指標で自分の信念の程度を答える。

　記述内容や信念の強さによって、陰謀論的な考えが比較的強いと判断された人が大半を占める約800人が次のステージに進んだ。ここで、二つのグループに分けられ、それぞれAIとチャット形式で会話する。

　参加者の6割にあたるAIに「説得」されるグループでは、参加者は入力内容の中で誤っている点を、AIから論拠とともに提示される。参加者はこれに対して反論など3往復のやりとりをする。もう一方の4割の参加者は対照グループとし、自由な雑談を3往復する。

　「説得」のグループでは、例えば米国によるアポロ11号の月面着陸を疑う形で、「宇宙なのに旗がはためいているのはおかしい」という意見に対し、AIは「旗を立てた時の回転」「はためいているように見える設計だった」と回答。着陸は世界中の科学者が評価し、当時対立していたソ連すらも確認していると指摘した。

　会話の後、それぞれのグループの参加者に、要約された元の文章が再び提示され、参加者は0～100の指標で、再び自分の信念の程度を答える。

　この結果、「説得」グループでは、対照グループよりも、記述内容に対する信念の指標が21.43%減少。参加者の4分の1以上が元の言説に対する確信が持てなくなったという。対照グループでは、確信の変化は1.04％の減少でほぼ変わらなかった。

搦手で規制を突破されると
素直に負けを認めて以後精進しますみたいな返答になる