Time の調査 では、AI チャットボット業界の不透明な側面が明らかになり、少なくとも 1 社のスタートアップが自社の技術を向上させるために疑わしい慣行をどのように使用しているかが浮き彫りになりました。
水曜日に発表された Time のレポートは、Microsoft が支援する OpenAI と その ChatGPT チャットボット に焦点を当てています。このテクノロジーは、非常に自然な会話テキストを生成する優れた能力で最近注目を集めています。
タイム誌の調査によると、OpenAIはAI技術をトレーニングするために、ケニアのチームのサービスを利用して、児童性的虐待、獣姦、殺人、自殺、拷問、自傷行為、近親相姦などの不穏な主題を含むテキストを熟読していたことが判明した。そして、忌まわしいコンテンツにラベルを付ける努力の割に、チームの多くは時給 2 ドル未満しか受け取っていませんでした。
2021年11月に開始されたこの作業は、ChatGPTの前身であるGPT-3が印象的ではあるものの、そのトレーニングデータセットがウェブの隅々から数千億の単語をかき集めて編集されていたため、不快なコンテンツを吐き出す傾向があったため必要でした。 。
サンフランシスコの企業サマが運営するケニアを拠点とするチームは、OpenAIのチャットボットのトレーニングを支援するために攻撃的なコンテンツにラベルを付けることで、データセットを改善し、不快な出力が発生する可能性を減らす予定だ。
タイム誌によると、インタビューしたサマの従業員4人全員が、仕事によって精神的に傷を負っていると述べた。サマはカウンセリングセッションを提供したが、従業員らはカウンセリングは効果がなく、仕事の都合上ほとんど実施されなかったと述べたが、サマの広報担当者はタイム誌に対し、セラピストはいつでも相談できると語った。
ある労働者は、衝撃的な資料を読むと時々「拷問」のように感じたとタイム紙に語り、週の終わりには「取り乱している」と感じたと付け加えた。
2022 年 2 月、OpenAI が ChatGPT とは無関係の別のプロジェクトを立ち上げ、ケニアのチームに性的および暴力的な性質の画像を収集するよう要求したとき、事態はサマにとってさらに暗い方向に向かいました。 OpenAIはTimeに対し、この作業は自社のAIツールをより安全にするために必要だったと語った。
この画像ベースのプロジェクトが開始されてから数週間以内に、その憂慮すべき仕事の性質により、サマは OpenAI とのすべての契約を解除することになったが、タイム紙は、それが、同じような主題に関する報道による PR の余波によっても引き起こされた可能性があることを示唆している。ほぼ同時に についても公開されました。
オープンAIはタイムに対し、サマに収集を依頼した画像の性質について「行き違い」があったと語り、最も過激な画像は要求しておらず、送信された画像も閲覧していないと主張した。
しかし、契約終了は労働者の生活に影響を及ぼし、ケニアのチームの一部は職を失い、他のチームは低賃金のプロジェクトに異動させられた。
Timeの調査は、 最近テクノロジー業界を大いに興奮させているAIを活用したチャットボットにどのような取り組みが行われているかについて、不快ではあるが重要な視点を提供している。
革新的で潜在的に有益である一方で、この技術は明らかに人的犠牲を伴い、企業が新技術の開発にどのように取り組むか、より広範には、裕福な国がどのようにして望ましくない課題を貧しい国に押し付け続けるかについて、多くの倫理的疑問を投げかけます。経済的支出の削減。
このテクノロジーを支える新興企業は、今後数カ月、数年でより集中的な監視を受けることになるため、できるだけ早い機会に自社のやり方を見直し、改善することが望ましいだろう。
Digital Trends は Time のレポートについて OpenAI にコメントを求めており、返答があり次第この記事を更新します。