米国のAI（人工知能）開発企業アンソロピックは、AIの影響に対処する時間を確保するため、開発の減速や一時停止が有益だとする提言を公表した。最先端のAI「クロード・ミュトス」を生み出し、開発競争の先頭を走る企業が、自らAIのリスクに警鐘を鳴らした形だ。
自律的なシステム設計への懸念
アンソロピックは公表したブログで、AIがこのまま自律的にシステムを設計・開発できるようになると、「人間がAIシステムの制御を失うリスクを高める可能性がある」と指摘。AIを人間の価値観や倫理に合わせる研究や社会構造が技術の進歩に追いつく時間を稼ぐため、「最先端のAI開発を減速または一時停止する選択肢」が有効との見解を述べた。
国際協調の必要性
その実現には、国際協調により主要な研究機関が足並みをそろえることや、各機関が実際に開発を止めたかを検証できることが必要だと訴えた。核兵器の軍縮条約の例を引き合いに「不可能ではない」とする一方で、体制と信頼づくりに何十年もかけている「時間の余裕はない」とも指摘。数カ月以内に、政策立案者や研究者、他のAI企業などと議論する場を設け、その成果を公表する方針を明らかにした。
—
クロード・ミュトスの能力とリスク
ミュトスは、自律的にシステムの脆弱性を見つける能力が高いことで注目を集めている。この能力は、サイバーセキュリティに役立つ一方で、悪用されるリスクもはらむ。アンソロピックは、AIの進化が人類にとって制御不能な事態を招く前に、倫理的枠組みと安全対策を整える必要があると強調している。
同社の提言は、AI業界に大きな波紋を広げている。開発競争の最前線に立つ企業が自らブレーキをかける異例の動きは、AIの安全性に対する認識の高まりを示すものだ。今後の国際的な議論の行方が注目される。
