ChatGPT は、自身の欠陥を見つけることができるほどまだ賢くはありません。そのため、その作成者は人間に助けを求めています。
OpenAIは火曜日、 ChatGPT や GPT-4 などの人工知能システムの脆弱性やバグを見つけて報告するよう人々に奨励するバグ報奨金プログラムを発表した。
OpenAIは、プログラムの詳細を概説するウェブサイトへの 投稿 の中で、報告に対する報奨金は、重大度の低い発見の場合は200ドル、同社が「例外的な発見」と呼ぶ場合は最大2万ドルまでの範囲であると述べた。
マイクロソフトが支援する同社は、その目標は「すべての人に利益をもたらす」AI システムを作成することであると述べ、次のように付け加えた。「そのために、当社は AI システムの安全性を確保するために研究とエンジニアリングに多額の投資を行っています。ただし、他の複雑なテクノロジーと同様に、脆弱性や欠陥が現れる可能性があることを私たちは理解しています。」
OpenAIは、プログラムへの参加に関心を持つセキュリティ研究者らに対し、「セキュリティの極めて重要性を認識しており、それを共同の取り組みとして捉えている」と述べた。調査結果を共有することで、私たちのテクノロジーをすべての人にとってより安全にする上で重要な役割を果たすことになります。」
ChatGPT やその他の OpenAI 製品を試す人が増えているため、同社は潜在的な問題を迅速に追跡して、システムがスムーズに動作することを確認し、弱点が悪用されるのを防ぐことに熱心に取り組んでいます。したがって、OpenAI は、技術コミュニティと連携することで、より深刻な問題になる前に問題を解決できることを期待しています。
カリフォルニアに本拠を置く同社は、一部のユーザーの会話の タイトルが非公開であるべきときに、欠陥によって公開されるという 恐ろしい事態をすでに経験している。
OpenAIのサム・アルトマン最高経営責任者（CEO）は先月の事件後、プライバシー事故を「重大な問題」だと考えていると述べ、「この件については非常に残念に思っている」と付け加えた。現在は修正されています。
イタリアがプライバシー侵害に深刻な懸念を表明し 、徹底的な調査を実施している間ChatGPTの禁止を決定したため、この失策はOpenAIにとってより大きな問題となった。イタリア当局はまた、OpenAIが再発防止のために講じる措置の詳細を要求している。