OpenAI の ChatGPT や Google Bard など、さまざまなツールやボットがリリースされ、ここ数カ月間、生成 AI は信じられないほどのスピードで進歩しています。しかし、この急速な発展は、AI 分野のベテランの間で深刻な懸念を引き起こしており、そのうちの 1,000 人以上が AI 開発者にブレーキを踏むよう求める公開書簡に署名しているほどだ。
この書簡は Future of Life Institute のウェブサイトで公開された。この組織は、「生命に利益をもたらし、極端に大規模なリスクを回避する方向に革新的なテクノロジーを導く」ことを使命と掲げている。署名者の中には、アップル共同創設者のスティーブ・ウォズニアック氏、ツイッターのイーロン・マスク最高経営責任者（CEO）、政治家のアンドリュー・ヤン氏など、著名な学者やテクノロジー界のリーダーも名を連ねている。
この記事では、 最近リリースされた GPT-4 よりも強力な AI モデルに取り組んでいるすべての企業に対し、少なくとも 6 か月間直ちに作業を停止するよう求めています。この一時停止期間は「公開され、検証可能」であるべきであり、「独立した外部専門家によって厳格に監査および監督される高度なAIの設計および開発のための一連の共有安全プロトコルを共同で開発および実装する」時間を与えることになる。
書簡には、「人間と競争する知性を備えた AI システムは社会と人類に重大なリスクをもたらす可能性がある」ため、これが必要であると述べられている。それらのリスクには、プロパガンダの蔓延、雇用の破壊、人命の代替と陳腐化の可能性、そして「文明の制御の喪失」が含まれます。著者らは、この未来に突き進むかどうかの決定を「選出されていないテクノロジーリーダー」に任せるべきではないと付け加えている。
AIは「すべての人の明らかな利益のために」
この手紙は、ChatGPT を支える技術の次期バージョンである GPT-5 が汎用人工知能を実現できる という主張がなされた直後に送られてきました。それが正しければ、人間が理解できるものはすべて理解して学習できることになります。それは、まだ完全に研究されていない方法で信じられないほど強力になる可能性があります。
さらに、この書簡は、AIシステムの開発をめぐる責任ある計画と管理が行われていないと主張している。作成者でさえも理解、予測、確実に制御することはできません。」
その代わりに、この書簡は、AIの開発を規制し、人々がAIによって作成されたコンテンツと人間が作成したコンテンツを区別できるようにし、OpenAIのようなAI研究所にAIが引き起こすあらゆる危害に対する責任を負わせ、社会がAIの破壊に対処できるようにする新しいガバナンスシステムを構築する必要があると主張している（特に民主主義に対して）など。
著者らは最後に前向きな言葉で締めくくっており、「人類はAIによって繁栄する未来を享受できる…その中で私たちは恩恵を享受し、すべての人の明らかな利益のためにこれらのシステムを設計し、社会に適応する機会を与えることができる」と主張している。 GPT-4 よりも強力なAIシステムで一時停止を押すと、これが起こる可能性があると彼らは述べています。
手紙は意図した効果を発揮するでしょうか？それは言いにくいです。 OpenAI には、財務面でも評判の面でも、先進的なモデルに取り組み続けるインセンティブがあることは明らかです。しかし、潜在的なリスクが非常に多く、しかもそれがほとんど理解されていない中で、書簡の著者らは明らかに、こうしたインセンティブを追求するには危険すぎると感じている。