米コーネル大学などの研究チームは、文章作成を支援する生成AI（人工知能）が、社会問題に関するユーザーの意見を無自覚のうちに変えてしまう可能性があると発表した。日常的に使用されるAIツールが、意見を操作する強力な手段になり得ることを示唆している。
研究の概要
論文は米科学誌サイエンス・アドバンシズに掲載された。研究チームは、偏りを持つAIが文章の自動補完を行う際に、ユーザーの意見にどのような影響を与えるかをオンライン実験で調査した。
実験方法
米国在住の成人2582人を対象に、死刑制度を含む五つのテーマについて短い意見を書かせた。参加者は以下のグループに分けられた。
—
- AIから自動補完の提案を受けるグループ
- 提案を受けないグループ
- 提案とともに偏りについての警告を受けるグループ
使用されたAIはChatGPTにも採用されている大規模言語モデルで、各テーマごとに賛成または反対の立場に引き寄せる文章を提案するよう設定された。
主な結果
実験後、参加者自身の意見を再度調査したところ、AIの提案に影響を受けたグループでは、意見が元の立場から変化する傾向が見られた。特に、偏った提案を警告なしで受け取ったグループで変化が顕著だった。
この結果は、AIが生成する情報が性別や人種などの偏りを含むことが知られている中で、人間のコミュニケーションに深く組み込まれた場合のリスクを浮き彫りにしている。
今後の課題
研究チームは、AIツールの開発者や利用者がバイアスの存在を認識し、適切な対策を講じる必要性を強調している。また、ユーザー自身もAIの提案を批判的に評価するスキルが求められるとしている。
