ChatGPT は素晴らしいツールですが、ほぼすべてのトピックについて専門家のように書くことができるこの高度な AI サービスには、盗作という暗い側面があります。トピックの知識と理解を実証するはずの学生が密かに ChatGPT を使用して不正行為を行うと、テストと採点が無効になります。 AI スキルは優れていますが、学生が学ぶべき唯一の科目ではありません。
この問題を取り締まるのは難しいことがわかっています。 ChatGPT は人間の文章の膨大なデータセットでトレーニングされているため、エッセイが生徒によって作成されたのか、それとも機械によって作成されたのかを講師が特定することはほぼ不可能です。 AI が生成した文章を認識しようとする ツールがいくつか作成されましたが、精度が低すぎて役に立ちませんでした。
教育者からの懸念が高まり、学生による ChatGPT の使用が禁止される中、OpenAI がこの問題の解決策に取り組んでいると Business Insider が報じています。メリーランド大学の機械学習准教授である Tom Goldstein 氏の最近の ツイート では、ChatGPT によって書かれた透かし入りテキストの検出がどれほど正確であるかを説明しています。
ほぼ 100% の精度で盗作を特定できるツールがあれば、この議論はすぐに解決され、懸念が軽減されるでしょう。 Goldstein 氏によると、解決策の 1 つは、大規模言語モデル (LLM) に限られた語彙から単語を選択させ、AI が使用しても問題ないホワイトリストと禁止されている単語のブラックリストを作成することです。不自然に多くのホワイトリストの単語がサンプル内に表示される場合、それが AI によって生成されたことを示唆します。
ほとんどの LLM が行うように、一度に 1 単語ずつ作業する場合、ディスカッションにどの単語が必要になるかを予測するのは難しいため、この単純化したアプローチは制限が多すぎます。 Goldstein 氏は、ChatGPT に 1 つの単語よりも先を読む機能を与えて、意味を保ちながらホワイトリストに登録された単語を詰めることができる文を計画できるようにする可能性があると示唆しています。
ChatGPT は、コミュニティのライティング プールに参加したときに大きな話題を呼びました が、優れた教材としても役立ちます。人工知能は将来的に理解すべき重要なテクノロジーであることは明らかであるため、学校に人工知能を導入することは重要ですが、盗作の問題が解決されるまでは引き続き論争が続くでしょう。