MicrosoftのBing Chat AIは 波乱万丈なスタートを切ったが、Microsoftはこの問題について、一般公開されるかなり前から知っていた可能性があるようだ。 Microsoft の Web サイトの サポート投稿 では、「Sidney」チャット ボットからの「失礼な」応答について言及しており、これは私たちがここ 1 週間聞いている話です。問題はここにあります—投稿は2022年11月23日に行われました。
この暴露は、Nomic の情報デザイン担当副社長である Ben Schmidt 氏 によるもので、同氏は AI 分野の著者で Geometric Intelligence の創設者である Gary Marcus 氏と投稿を共有しました。記事によると、Microsoftは正式発表前の11月から1月にかけてインドとインドネシアでBing Chat（投稿によればシドニーと呼ばれる）をテストしたという。
私は Microsoft にそのようなことがあるかどうか尋ねたところ、Microsoft は次のような声明を発表しました。
「シドニーは、1 年以上前にテストを開始した初期のモデルに基づくチャット機能の古いコード名です。その一環として私たちが収集した洞察は、新しい Bing プレビューに関する私たちの取り組みに役立つものになりました。私たちは技術の調整を続け、可能な限り最高のユーザー エクスペリエンスを提供できるように、学習とフィードバックを組み込むためのより高度なモデルに取り組んでいます。今後も ブログを通じて進捗状況を共有していきます。 」
最初の投稿では、AI ボットがユーザーと議論し、 Bing Chat が「人間になりたい」と述べた ときと同じ文形式に落ち着く様子が示されています。スレッドのさらに下の方では、他のユーザーも自分の経験に賛同し、Bing Chat のほとんどの反応に続いて悪名高い笑顔の絵文字を再投稿しました。
さらに悪いことに、最初の投稿者はフィードバックを提供してチャットボットを報告するよう求めていると述べており、Microsoft が自社の AI が可能な応答の種類を認識していたことにある程度の信憑性を与えました。
これは、チャットボットがメディアで大騒ぎになった数日間にマイクロソフトが述べたことと矛盾する。 Bing Chat への今後の変更 を取り上げた発表の中で、Microsoft は、「ソーシャル エンターテイメント」は、おそらくユーザーが Bing Chat を騙して挑発的な反応をさせようとした方法を指すもので、「チャットの新しいユーザー ケース」であると述べました。
マイクロソフトは、AI の発売以来、会話の長さを大幅に短縮するなど、いくつかの変更を加えてきました。これは、Microsoft が最初に Bing Chat を発表してから数日後に広まったこのような反応を抑制するための取り組みです。 Microsoft は現在、 チャット制限の引き上げ に取り組んでいると述べています。
MicrosoftによるBing Chatのテストの背後にある話はまだ宙に浮いているが、AIがしばらくの間計画されていたことは明らかだ。今年初め、Microsoft は ChatGPT の成功を受けて OpenAI に数十億ドルの投資 を行い、Bing Chat 自体は同社の GPT モデルの修正バージョンに基づいて構築されています。さらに、 Microsoft は、Bing Chat を世界に発表する数日前に、「責任ある AI」に関するブログを投稿しました 。
AI と、Bing などの検索エンジンでの AI の使用を巡る倫理的な疑問がいくつかあります。また、Microsoft が Bing Chat の準備が整い、その機能を理解する前に、急いで Bing Chat を廃止した可能性もあります。問題のサポート投稿の最終更新日は 2023 年 2 月 21 日ですが、最初の質問と返信の履歴を見ると、最初の投稿日から修正されていないことがわかります。
Microsoft は、今後登場する Google Bard と ChatGPT の人気の急激な高まりからのプレッシャーを感じて、とにかく突き進むことにしたのかもしれません。