自民党は5月12日、生成AIで本物と見分けがつかないほど精巧な偽コンテンツを作成する「ディープフェイク」を悪用したSNS投稿型詐欺への対策案をまとめた。虚偽の投稿話へ誘い込む広告を管理するプラットフォーム事業者に対し、広告主の本人確認（KYA）を義務付ける法整備の検討を求める。
デジタル社会推進本部などが合同プロジェクトチームを設置
提言をまとめたのは、デジタル社会推進本部などの合同プロジェクトチーム（PT）だ。座長は平井卓也議員が務める。同PTは、ディープフェイクによる被害が急増している現状を指摘。対策として、AIで生成した広告であることの明示や、違法な広告を迅速に削除するルールの確立を挙げた。
罰則を含む実効性のある法整備を推進
また、法整備に先駆けて実施すべき対策として、なりすまし投稿広告に特化した専用通報サイトの設置、政府内への横断的な機能を持つ組織の創設、AIを活用した不正広告の検知体制の強化などといった対策も挙げられた。先行して同様の制度を導入した台湾では、投稿広告が大幅に減少した実績があるという。同党はこの事例を参考に、プラットフォーム事業者の責任を明確にし、罰則を含めた実効性のある法整備と運用を促した。
平井卓也議員「デジタル実害の問題」との見解
平井卓也議員は公式Xにて、生成AIの進化に伴いフェイクコンテンツの精度が上がり、従来の制度や個人のリテラシーだけでは被害を防げなくなっていることについて、「デジタル実害」の問題であるとの見解を示した。
関連記事として、MAGA支持者を「超バカ」と嘲笑うインドの学生がAIで生成した金髪女性のビキニ写真で炎上した事例や、トランプ前大統領が掲げる「MAGA（米国を再び偉大に）」を支持する男性の間で人気を博した金髪の女性インフルエンサー「エミリー・ハート」は実在せず、インドの学生が生成人工知能（AI）で作った虚像だったことを、米誌WIREDが明らかにした事例が紹介された。
さらに、「住民票の写し」装う詐欺メール拡散や、PayPayで送金させる手口に対するフィッシング対策協議会が警鐘を鳴らす事例、楽天カード利用者への「詐欺サイトに入力した疑いあり」警告開始の事例、はてなでの11万円の資金流出事件なども報告されている。
