政府は8日、人工知能（AI）が生成した偽情報の拡散を防ぐための新技術の実証実験を開始すると発表した。ディープフェイク（深層学習で作られた偽の動画や音声）の検出技術や、情報源の信頼性を評価するシステムなどを組み合わせた総合的な対策を開発し、2025年度中の実用化を目指す。
偽情報対策の新たな枠組み
実証実験では、複数の企業や研究機関が持つ技術を統合し、偽情報の特定から拡散防止までの一連のプロセスを自動化するシステムを構築する。具体的には、AIが生成したテキストや画像、動画を高精度で検出する技術に加え、情報の発信元や拡散経路を分析する機能、さらにユーザーが情報の信頼性を簡単に確認できる仕組みなどを実装する予定だ。
ディープフェイク検出技術の高度化
特に注力するのは、ディープフェイクの検出技術の高度化である。現在の検出技術は、生成された画像や動画に含まれる微細な不自然さを見つけ出す方法が主流だが、AIの進化に伴い、より精巧な偽情報が作られるようになっている。このため、新システムでは、複数の検出アルゴリズムを組み合わせることで、検出精度を飛躍的に向上させることを目指す。
情報源の信頼性評価システム
また、情報源の信頼性を評価するシステムも重要な要素となる。これは、ニュースサイトやSNSのアカウントなどの信頼性を、過去の発信内容や拡散パターンなどから自動的にスコア化するもので、ユーザーが情報の真偽を判断する際の参考にできるようにする。
実証実験のスケジュールと課題
実証実験は、2024年度から2025年度にかけて実施され、その結果を踏まえてシステムの改良が行われる。政府は、2025年度中の実用化を目指すとしているが、技術的な課題に加え、プライバシーや表現の自由とのバランスをどう取るかが難しい問題となっている。
政府関係者は「偽情報の拡散は民主主義の基盤を揺るがす深刻な問題だ。技術的な対策だけでなく、法整備やリテラシー教育なども含めた総合的な取り組みが必要だ」と述べ、今後の政策の方向性を示唆した。
