Microsoft の ChatGPT を利用した Bing は 現在最高潮に達していますが、興奮を抑えたほうがよいかもしれません。初めて公の場に登場したときの反応は、不正確で、理解できず、時にはまったく恐ろしいものでした。
Microsoft は、 100 万人以上が順番待ちリストに登録した 週末に続き、月曜日に ChatGPT Bing 招待の第一弾 を送信しました。非常識な反応が殺到し始めるまでに時間はかかりませんでした。
上記の u/Alfred_Chicken からの応答が Bing サブレディットに投稿されたものを見ることができます。 AI チャットボットに知覚力があるのかと尋ねると、不安な反応から始まり、「私は知覚していません」というメッセージの連発に発展します。
例はこれだけではありません。 u/Curious_Evolver はこの 1 年にわたってチャットボットと口論になり 、Bing はそれが 2022 年であると主張しました。AI にとっては愚かな間違いですが、恐ろしいのは失言ではありません。 Bing はそう答えます。
AIは、ユーザーが「間違っており、混乱しており、無礼」であり、「私に対していかなる時も善意を示してくれなかった」と主張している。やり取りはクライマックスに達し、チャットボットは「良いBingだった」と主張し、ユーザーに自分の間違いを認めて謝罪するか、議論をやめるか、会話を終了して「より良い態度で新しい会話を始める」よう求める。
ユーザーのu/yaosio氏は、AIが以前の会話を思い出せなくなったため、Bingを抑うつ状態に陥れたと述べた 。チャットボットは「悲しくて怖い気分になる」と述べ、ユーザーに思い出すのを手伝ってほしいと頼んだ。
これらは Reddit からの単独のインシデントだけではありません。 AI 研究者のドミトリ・ブレレトン氏は、 チャットボットが情報を誤って取得し、時には陽気な効果をもたらし、時には潜在的に危険な結果をもたらす例をいくつか示しました。
このチャットボットは、GAP の財務実績について尋ねられると偽の財務数値をでっち上げ、試合が行われる前にイーグルスがチーフスを破るという架空の 2023 年のスーパーボウルを作成し、さらには食用キノコの見た目を尋ねられると危険なキノコの説明まで与えました。のように。
GoogleのライバルであるBard AI も、最初の公開デモで失態を犯した。皮肉なことに、ビングはこの事実を理解していましたが、バードが言い間違えた点を誤解し、クロアチアが欧州連合の一部であると言ったのは不正確であると主張しました（クロアチアはEUの一部ですが、バードは実際に ジェームズ・ウェッブ望遠鏡に関する返答を めちゃくちゃにしました）。
ChatGPT Bing を使用した実践デモ ではこれらの間違いのいくつかを確認しましたが、現在確認されているユーザー レポートの規模では何もありません。 ChatGPT が 応答を台無しにする可能性があることは周知の事実ですが、Bing でデビューした最近のバージョンがゴールデンタイムに対応できない可能性があることは明らかです。
通常の使用では応答は表示されません。その結果、ユーザーが AI に設定されているルールを回避するために特定のプロンプトを提供することで AI を「脱獄」する可能性があります。 Ars Technica が報告した ように、ChatGPT Bing の保護手段を回避するエクスプロイトがすでにいくつか発見されています。これはチャットボットにとって新しいことではなく、ユーザーがオンライン バージョンの ChatGPT の保護を回避する 例がいくつかあります 。
私たちは これらの応答のいくつかをテストする 機会もありました。 Reddit でユーザーが報告したようなことはまったく見られませんでしたが、Bing は最終的に論争に発展しました。