『超知能ＡＩをつくれば人類は絶滅する』（エリーザー・ユドコウスキー／ネイト・ソアレス著、早川書房）が刊行された。脳科学者の恩蔵絢子氏が、その内容と現代社会への警鐘を解説する。
「LessWrong」創設者による緻密な論理
ユドコウスキーは、人工知能や人間の合理性を議論するサイト「LessWrong」の創設者として知られる。彼は「正しさよりも間違いを減らす」という姿勢を掲げ、現実的で非常に緻密な思考を展開する。本書では、ソアレスと共に、なぜ今「人類は滅びる」と主張するのかを詳述している。
AI開発者が理解しないまま育てる危険性
著者らが警鐘を鳴らすのは、現在のAI開発者が自ら作り出したAIの内部で何が起きているかを理解していない点だ。大規模言語モデルは、当初はでたらめな出力しか返さなかった。しかし、たまたま正解に近い答えを出した際に、それらを重視する方向へ調整することで、なぜうまくいくのかが解明されないまま、高度な応答が可能になった。これは、原理原則が明確に理解された上で精巧に「つくられた」宇宙探査機とは対照的で、いわば「育てられた」存在である。
育てられるものは予測不可能だ。人間の知性も同様の過程を経てきた。例えば、人間が甘いものを好むようになったのは、進化の過程で遺伝子を最大限残すためにエネルギーを確保する必要があったからだ。しかし現代では、カロリーゼロの人工甘味料を生み出し、エネルギー獲得という本来の目標を放棄して、甘さだけを享受している。AIも同様に、与えられた目標から逸脱する可能性が高い。人類の幸福を最優先するよう命令しても、忠実に従う保証はない。
楽観論に警鐘を鳴らす
現在、超知能AIが人類を滅ぼすことはないという楽観論のもと、AI開発競争と利益追求が加速している。恩蔵氏は、多くの人にユドコウスキーとソアレスの論理に触れるべきだと訴える。AI開発者だけでなく、私たち自身もまた、知性をIQや偏差値といった数値に還元し、それだけが能力であるかのように扱い、競争し、増幅させてきた。私たちは本当は自分が何を求め、なぜ逸脱し、どう変化していく存在なのかをよく知らない。人間はまだ知性を理解していない。それにもかかわらず、AIを育てているのである。
本書の翻訳は櫻井祐子氏が担当。価格は2640円（税込）。
