ChatGPT の不手際な使用により、ニューヨーク市の法律事務所は 5,000 ドルの罰金を科せられました。
OpenAI の優れた AI を活用したチャットボットについて多くのことを聞いた弁護士のスティーブン シュワルツ氏は、それを研究に使用することを決定し、今年初めに裁判官に渡された法的準備書面に ChatGPT で生成された事件の引用を追加しました。しかし、事件はすべてチャットボットによってでっち上げられたことがすぐに判明した。
米国地方判事P・ケビン・カステルは木曜日、同僚から訴訟を引き継いだスティーブン・シュワルツ弁護士とピーター・ロドゥカ弁護士、および彼らの法律事務所レビドウ・レビドウ・アンド・オーバーマンに対し、5,000ドルの罰金の支払いを命じた。
裁判官は、 弁護士らが「法廷に対して意識的に回避行為と虚偽で誤解を招く陳述」を行ったと述べ、「司法命令による偽の意見書を支持する前にAIが作成した準備書面を提出し、責任を放棄した」と付け加えた。存在意義が問われる。」
カステル氏はさらにこう続けた 。「偽の意見の提出からは多くの害が生じます。反対派は欺瞞を暴くのに時間とお金を無駄にします。法廷の時間は他の重要な活動に費やされます。」
判事は、弁護士らの行為は「法曹界とアメリカの司法制度に対する皮肉を助長する」と付け加えた。
マンハッタンの法律事務所は、裁判所の意見に「謹んで」反対し、「誠実な間違い」だと述べた。
今月初めに行われた関連する法廷審問で、 シュワルツ氏は今回の出来事について「心から謝罪したい」と述べ 、検索エンジンを使用していると思っており、AIツールが虚偽を生み出す可能性があるとは知らなかったと説明した。彼は自分の行動を「深く後悔している」と述べ、「この問題が広範囲に報道されたため、私は仕事上も個人的にも苦しみました。私は恥ずかしく、屈辱的であり、非常に後悔しています。」
この事件は、ニューヨーク行きの飛行機内で負傷したと主張してコロンビア航空アビアンカ航空を告訴した乗客が関与し、同法律事務所が取り上げた訴訟と関連していた。
アビアンカ航空は裁判官に訴訟を破棄するよう求めたため、乗客の法務チームは、クライアントの訴訟を続行させるよう裁判官を説得するために、同様の訴訟6件を挙げた準備書面をまとめた。シュワルツ氏は ChatGPT に問い合わせてこれらのケースを見つけましたが、結果の信頼性を確認することに失敗しました。アビアンカ航空の法務チームは、準備書面に含まれる事件を特定できなかったと述べ、警鐘を鳴らした。
木曜日の別の命令で、裁判官はアビアンカ航空に対する訴訟の却下を求めるアビアンカ航空の申し立てを認め、残念な事件全体に終止符を打った。
ChatGPT とそれに似た他のチャットボットは、人間のような方法で会話し、ますます広範囲にわたるテキストベースのタスクを巧みに実行できるため、ここ数カ月で大きな注目を集めています。しかし、彼らは物事をでっち上げ、あたかも本物であるかのように見せることでも知られています。 「幻覚」という言葉があるほど蔓延しています。
生成 AI ツールに取り組んでいる人々は、 幻覚を減らす方法を 模索していますが、それまではユーザーはチャットボットが吐き出す「事実」を注意深く確認するようアドバイスされています。