米商務省で人工知能（AI）に関する業界調整を担当する「AI標準・イノベーションセンター」は5日、グーグルとマイクロソフト、イーロン・マスク氏が率いるxAIの3社が、新たなAIモデルを一般公開する前に事前開示することに合意したと発表した。この合意は、最先端AIの性能評価や安全基準を事前に確認できる仕組みを整えることを目的としている。
背景と狙い
近年、米新興企業アンソロピックの生成AI「クロード・ミュトス」などの先端AIがサイバー攻撃や偽情報拡散に悪用されるリスクへの警戒感が高まっている。こうした状況を受け、センターは未公開モデルを含む40件以上の評価を実施してきた。今回の合意について、センターは「最先端AIとその国家安全保障上の影響を理解するには、独立した厳密な調査が不可欠だ」と意義を強調している。
合意の詳細
3社は、新たなAIモデルの開発段階で、事前に性能や安全性に関する情報を商務省に開示する。これにより、政府は潜在的なリスクを評価し、必要に応じて対策を講じることが可能となる。具体的な開示内容やスケジュールは今後詰められるが、2026年までの実施を目指すとされる。
—
一方、今回の合意は自主的なものであり、法的拘束力はない。しかし、AI規制の国際的な枠組み作りが進む中、米国政府と主要企業の協力姿勢を示す一歩として注目される。
