ポーズAI - 百科事典

PauseAIは、オランダで設立された世界規模の政治運動で、GPT-4を超える人工知能システムの開発を止めるための世界的な調整を達成することを目指しています。少なくとも、それらを安全に構築する方法が分かるまで、そしてそれらを民主主義的な統制下に保つまでです。この運動は、2023年5月にソフトウェア企業のCEOを務めるジョープ・メインドルトスマによってユトレヒトで設立されました。

提案
PauseAIの明言した目標は、「GPT-4を超えるAIシステムのトレーニングを一時停止させること」です。彼らのウェブサイトには、この目標を達成するためのいくつかの提案された手順が記載されています：

国際的なAI安全性機関を設立する（IAEAに似たもの）。
一般AIシステムのトレーニングを許可する場合には、その安全性が保証されていることを条件とする。
危険な機能が存在しない場合にのみモデルの展開を許可する。

背景情報
2010年代後半から2020年代初頭にかけて、大規模言語モデルGPT-3、そのより強力な後継者GPT-4、画像生成モデルMidjourneyとDALL-Eの発表が相次ぎ、人工知能モデルの能力が急速に向上しました。これにより、高度なAIのリスクに対する懸念が高まり、Future of Life Instituteは「すべてのAI研究所が、少なくとも6ヶ月間はGPT-4を超えるAIシステムのトレーニングを一時停止させることを呼びかけ」するオープンレターを発表しました。このレターは、ヨシュア・ベンギオ、スチュアート・ラッセル、イーロン・マスクなど数千人のAI研究者と業界CEOによって署名されました。

歴史
創設者であるジョープ・メインドルトスマは、ニック・ボストロムの2014年の書籍「Superintelligence: Paths, Dangers, Strategies」を読んで、人工一般知能からの存在の危険に初めて懸念を持ちました。彼は2023年5月にPauseAIを設立し、ソフトウェア企業のCEOの仕事を一時停止させました。メインドルトスマは、AI調整研究の進捗がAI能力の進捗に後れを取っていると主張し、「私たちは短期間で絶滅に直面する可能性がある」と述べました。そのため、彼は人々を組織することに強い動機を持つようになりました。

PauseAIの最初の公共的な行動は、2023年5月に人工知能に関するイベントの最中にマイクロソフトのブリュッセルのロビングオフィスの前に抗議するものでした。同年の11月には、ブレッチリー公園で行われたAI安全性サミットの外で抗議しました。サミットで署名されたブレッチリー宣言は、AIから生じる潜在的な破壊的なリスクを認識するものであり、メインドルトスマにとっては小さな第一歩と見られました。しかし、彼は「国際的な条約」が必要であると主張し、モントリオール協定や盲点光線兵器禁止条約を前例として挙げました。

2024年2月には、PauseAIのメンバーがサンフランシスコのOpenAI本社の外で集まりました。これは、OpenAIが軍事目的のためのモデルの使用を禁止する使用規約を変更したためです。

2024年5月13日には、AIソウルサミットの前に13カ国で抗議が行われました。これには、アメリカ、イギリス、ブラジル、ドイツ、オーストラリア、ノルウェーなどが含まれます。メインドルツーマは、サミットに出席する人々が「この競争を止める唯一の力を持っている」と述べました。サンフランシスコの抗議者たちは「疑問があるときは一時停止しよう」「OpenAIでの仕事を辞め、あなたの良心に従おう」と書かれた看板を持っていました。OpenAIの「超調整」チームのリーダーであるジャン・ライケは、安全文化とプロセスが「目もとを見るような製品」に取って代わられたと感じたため、2日後に辞任しました。

参考情報
人工知能の規制
Pause Giant AI Experiments: An Open Letter

参考文献
(省略)

外部リンク
公式ウェブサイト