イーサリアム創業者、AI開発一時停止策「ソフトポーズ」を提案

イーサリアムのヴィタリック・ブテリン共同創業者は5日、急速に進化する人工知能（AI）に対する潜在的なリスクに対応するため、計算能力の「ソフトポーズ」を提案した。

これは、超知能AIがもたらすリスクを軽減し、人類が十分な準備を整えるための時間を確保する最後の手段として議論されている。

ブテリンは、AI開発の暴走を防ぐため、最大で1〜2年間、世界的な計算リソースを90％から99％削減する可能性を示唆した。この提案は、より軽い規制手段が失敗した場合に実行されるべきだと強調している。

「ソフトポーズ」の背景｜AI開発に対する懸念が高まる中での提案

イーサリアム共同創業者のブテリンはブログ記事の中で、超知能AIが登場する前に人類が準備する時間を確保する必要性を訴え、計算リソースの制限が一時的な「戦時体制」に匹敵する成果をもたらす可能性があると述べた。

人類が準備を整える時間を稼ぐため、世界中の計算リソースを90〜99％削減できる能力を持つことが重要だ。1〜2年間の取り組みは、通常の100年分の作業に相当する

この提案は、AIの急速な発展に対する技術コミュニティの懸念が高まる中で行われた。2023年5月、技術専門家や研究者が科学誌『Science』に公開書簡を掲載し、AI開発の停止を呼びかけた。

この書簡では、「大規模な社会的被害、悪意ある使用、そして人類が自律型AIシステムを制御できなくなるリスク」が指摘されている。

Autonomysのトッド・ルオフCEOは、The Defiantの取材に対し、ブテリンの提案はAI開発のリスクを適切に認識したものだと評価した。

ヴィタリックの提案内容｜計算リソースの削減と監視体制の強化

ブテリンは「ソフトポーズ」の実施方法について、産業規模のAIハードウェアに「信頼できるチップ」を搭載し、主要な国際機関（少なくとも非軍事関連の機関1つを含む）による週次の承認を必要とする仕組みを提案している。

この仕組みにより、AIシステムが適切な監視の下でのみ動作し、潜在的なリスクを軽減できると下記の通り説明している。

署名はデバイスに依存しない形で行われる。必要であればブロックチェーンに公開したゼロ知識証明で確認することも可能だ。そのため、すべてのデバイスを一括で承認するか、全く承認しないかの二択しかない

ブテリンは、超知能AIの登場が5年以内かもしれないし、50年かかる可能性もあると述べた。

この提案を受け、技術業界内ではAI技術の開発における倫理的な問題と安全対策の必要性についての議論が再燃している。