人工知能（AI）の開発競争は、今すぐペースを落とす必要がある。米アンソロピックのダリオ・アモデイ最高経営責任者（CEO）が12日に公開した論考でそう訴えた。

「AIモデルの能力向上のペースを落とさなければならない。それでも進歩は速く感じられるだろうし、得られた時間を賢く使わなければならない」。アモデイ氏は自身のウェブサイトに投稿した3800語に及ぶ長文にそう記した

世界有数のAI企業で、チャットボット「クロード」を手がけるアンソロピックを率いるアモデイ氏は、AI技術の進歩を強く支持してきた一方、AIのリスクを警告する「破滅論者」と批判されることもあった。アモデイ氏は12日、人々がAIを制御できなくなる可能性があり、AIが「サイバー攻撃や生物テロ、深刻な経済混乱」に悪用される恐れがあると認めた。

CNNのアンダーソン・クーパー記者との12日の単独インタビューでは、業界のトップらに対し、「間違った道」を回避しAIが人類に害を与える可能性を避けるべく協力を呼びかけた

この呼びかけの直前には、アンソロピックの研究者ジェイコブ・コクソン氏が、同社や競合他社がAI開発に関して責任を持って行動していないとの懸念を示し、退社していた。

「AIを開発している人々は、AIが2029年末までに私たち全員を死なせる可能性があると本気で考えている。これはマーケティング広告ではない」。コクソン氏は8日、X（旧ツイッター）にこう投稿した

アモデイ氏はCNNに対し、コクソン氏の意見には反対する点よりも同意する点の方が多いと語った。論考ではAIの恩恵が人類をより良い方向へ変える可能性があるとしても、リスクは深刻だと述べている。AIが急速に進歩し、半年～1年以内にインターネット全体を乗っ取る能力を持つ可能性もあり、そうなれば数千億ドル規模の損害が生じる恐れがあるという。

AI技術はここ数カ月の間に「劇的な速さ」で進歩し、自らを改善する能力を持つようになったとアモデイ氏は述べた。「放置すれば、こうしたシステムを理解し制御する人間の能力を上回る可能性がある。従って、そもそも追求するとしても、極めて慎重に進めなければならない」

アモデイ氏はAI企業に対し、「最先端技術の進展速度」を管理するための安全策を導入するよう呼びかけた。自社の安全対策を検証し、事故を報告し、AIモデルや学習パイプライン、プロセスを確認できるよう、社内全体にアクセスできる第三者評価機関を採用することを提案。「アンソロピックは単独でもこれを約束する」としている。

さらに民主国家かどうかを問わず、各国政府も「共通の安全基準を確立するため」協調すべきだと付け加えた

AI業界ではかねて技術進歩のペースをめぐって懸念が示されている。オープンAIのサム・アルトマンCEOは12日、Xで、アモデイ氏への同意を表明。「従業員と同様のアクセス権限を持つ独立した評価機関を受け入れると約束するのは素晴らしい考えだ。われわれも同じようにする」と述べた。チャットボット「グロック」を手がけるxAIのイーロン・マスク氏も、Xに「ダリオは正しい」と投稿した。

米国政府の対応はAIの着実な進歩に追いついていない。議会では議論が行われてきたものの、AIの包括的な規制法案は成立していない