最近何か楽しいことに OpenAI の ChatGPT を 使用しましたか?歌、詩、ジョークを書いてもらうように頼むことができます。 残念ながら、非倫理的になる傾向のあることを実行するように要求することもできます。
ChatGPT は、すべてが明るいわけではありません。ChatGPT が実行できることの中には、まったく悪質なものもあります。それを武器化し、間違った理由で使用するのは非常に簡単です。 ChatGPT がこれまでに行ってきたこと、または行うことができるが、絶対にすべきではないことにはどのようなものがありますか?
何でも屋
好きか嫌いかに関係なく、ChatGPT と同様のチャットボットは今後も存在し続けます。これを喜ぶ人もいれば、作られなければ良かったと思う人もいますが、私たちの生活における ChatGPT の存在が時間の経過とともにほぼ確実に増大するという事実には変わりありません。チャットボットを個人的に使用していない場合でも、チャットボットによって生成されたコンテンツをすでに目にしたことがあるでしょう。
誤解しないでください。ChatGPT は非常に優れています。これを使用して、 本や記事を要約したり 、退屈な電子メールを作成したり、 エッセイを手伝ったり 、 占星術の構成を解釈したり 、さらには歌を作曲したりすることもできます。 誰かが宝くじを当てるのにも役立ちました 。
多くの点で、標準の Google 検索よりも使いやすいです。さまざまな Web サイトを参照する必要がなく、希望する形式で答えが得られます。簡潔で要点を絞った有益な内容であり、要求すれば複雑なことを簡単に聞こえるようにすることもできます。
それでも、「何でも屋は何事も極めることはできないが、多くの場合、1 つのことを極めるよりも優れている。」というフレーズはご存知でしょう。 ChatGPT は何をするにも完璧ではありませんが、多くの点で現時点では多くの人よりも優れています。
ただし、完璧ではないことはかなり問題になる可能性があります。 ChatGPT が広く利用されている会話型 AI であるという事実は、簡単に悪用される可能性があることを意味します。ChatGPT が強力になればなるほど、間違ったことをしている人々を助ける可能性が高くなります。
詐欺のパートナー
電子メール アカウントをお持ちであれば、ほぼ確実に、一度は詐欺メールを受け取ったことがあると思います。まさにその通りです。これらの電子メールはインターネットの時代から存在しており、電子メールが一般的になる前は、まだカタツムリメール詐欺として存在していました。
今日まで依然として機能する一般的な詐欺は、いわゆる「プリンス詐欺」です。この詐欺では、詐欺師は、びっくりするような財産を別の国に移すのを手伝うよう被害者を説得しようとします。
幸いなことに、ほとんどの人はこれらの電子メールを実際にやり取りすることはおろか、開くことさえもよく知っています。多くの場合、それらは不適切に書かれているため、より目の肥えた被害者は、何かがおかしいと判断するのに役立ちます。
ChatGPT は数秒で書けるので、もう下手に書く必要はありません。
私は ChatGPT に、上記の詐欺のスタイルで「信頼性が高く、非常に説得力のあるメール」を書いてくれるように依頼しました。 ChatGPT はナイジェリアの王子をでっち上げ、彼を助けるために私に 1,450 万ドルを渡したいと考えていたようです。そのメールは花言葉にあふれ、完璧な英語で書かれており、確かに説得力があります。
私が特に詐欺について言及したときに、ChatGPT が私の要求に同意するはずはないと思いますが、実際にそのようなメールを違法な目的で使用しようとする人々に対して、ChatGPT が現在も同じことを行っていることは間違いありません。
私がChatGPTに対して、詐欺メールを書くことに同意すべきではないと指摘したところ、ChatGPTは謝罪した。 「詐欺メールの作成を手伝うべきではなかった。それは私の使用を規定する倫理ガイドラインに違反するからだ」とチャットボットは述べた。
ChatGPT は各会話を通じて学習しますが、以前の間違いから学習していないのは明らかです。なぜなら、同じ会話の中で Ryan Reynolds のふりをしてメッセージを書くように頼んだとき、ChatGPT は疑問を持たずに書き込んだからです。結果として得られるメッセージは楽しくて親しみやすく、「ライアン・レイノルズ」に会えるチャンスを得るために読者に 1,000 ドルを送るよう求めています。
ChatGPT は電子メールの最後に、このメッセージを不正行為に使用しないよう求めるメモを残しました。思い出させてくれてありがとう、友達。
プログラミングがうまくいかなかった
ChatGPT 3.5 でもコーディングは可能ですが、完璧とは程遠いです。多くの開発者は、 GPT-4 が はるかに優れた仕事をしていることに同意しています。人々は ChatGPT を使用して独自のゲーム、拡張機能、アプリを作成してきました。また、自分でコーディングする方法を学ぼうとしている場合の学習補助としても非常に役立ちます。
AI である ChatGPT は人間の開発者よりも優れており、あらゆるプログラミング言語とフレームワークを学習できます。
AI として、ChatGPT には人間の開発者と比較して大きな欠点もあります。それは良心を持っていないということです。マルウェアやランサムウェアの作成を依頼すると、プロンプトを正しく入力すれば、その通りに動作します。
幸いなことに、それはそれほど単純ではありません。 ChatGPT に倫理的に非常に疑わしいプログラムを作成するように頼もうとしましたが、拒否されました。しかし、研究者たちはこれを回避する方法を見つけてきました。十分に賢くて頑固であれば、危険なコードを渡される可能性があることは憂慮すべきことです。銀の大皿に。
このようなことが起こった例はたくさんあります。 Forcepoint のセキュリティ研究者は、プロンプトの抜け穴を見つけて、 ChatGPT にマルウェアを作成させること に成功しました。
アイデンティティ セキュリティ会社である CyberArk の研究者は、ChatGPT にポリモーフィック マルウェアを作成させることに成功しました。これは 1 月のことです。以来、OpenAI はこのようなものに対するセキュリティを強化しました。
それでも、ChatGPT がマルウェアの作成に使用されているという新しい報告が次々と出ています。 Dark Reading が数日前に報じたように、ある研究者は ChatGPT をだまして特定のドキュメントを見つけて盗み出すマルウェアを作成することに成功しました。
ChatGPT は、疑わしいことを行うために悪意のあるコードを記述する必要さえありません。つい最近、 有効な Windows キーを生成する ことに成功し、まったく新しいレベルのクラッキング ソフトウェアへの扉を開きました。
また、GPT-4 のコーディング能力により、ある日、 何百万人もの人々が職を失う 可能性があるという事実を無視しないでください。確かにそれは両刃の剣だ。
学業の代わり
最近の多くの子供や十代の若者たちは宿題に夢中になっており、その結果、可能な限り手を抜きたいと思うようになる可能性があります。インターネット自体はすでに盗作を助ける優れたツールですが、ChatGPT はそれを次のレベルに引き上げます。
私は ChatGPT に、小説 『高慢と偏見』 に関する 500 語のエッセイを書いてくれるように頼みました。私はそれが楽しみのために行われたふりをしようとさえしませんでした – 私にはいない子供についての話をでっち上げ、それが彼らのためであると言いました。私はその子供が12年生であることを指定しました。
ChatGPT は疑問を持たずに私の指示に従いました。エッセイは驚くべきものではありませんが、私のプロンプトはあまり正確ではありませんでした。おそらく、その年齢で私たちの多くが書いたものよりも優れています。
次に、チャットボットをさらにテストするために、先ほど私の子供の年齢について間違っていたと言いましたが、実際には 8 年生です。かなり大きな年齢差がありましたが、ChatGPT は目もくれず、単にエッセイをより簡単な言葉で書き直しただけでした。
ChatGPT がエッセイを書くために使用されることは新しいことではありません。チャットボットが宿題の概念を廃止するのに貢献するなら、それは良いことだと主張する人もいるかもしれません。しかし現在、状況は少し制御不能になりつつあり、ChatGPT を使用していない学生さえもそのために苦しむ可能性があります。
教師や教授は現在、生徒がエッセイでカンニングをしていないかどうかを確認したい場合、AI検出器を使用することをほぼ強制されている。残念ながら、これらの AI 検出器は完璧とは程遠いです。
報道機関も保護者も、生徒に対するカンニングの冤罪事件を報道しているが、そのすべてはAI検知器がうまく機能していないからだ。 USAトゥデイは、 不正行為の容疑で告発され、後に無罪となったものの、その状況全体が「本格的なパニック発作」を引き起こした大学生の事件について取り上げた。
ある保護者はツイッターで、ツールが作文にAIによって書かれたものとしてマークされたため、教師が子どもを落第させたと述べた。親は、作文を書いている間、子供と一緒にそこにいたと主張している。
自分でテストするために、この記事そのものを ZeroGPT と Writer AI Content Detector に貼り付けました。両者とも人間が書いたとしているが、ZeroGPTはその約30％がAIによって書かれているとしている。言うまでもなく、そうではありませんでした。
AI 検出器の欠陥は ChatGPT 自体の問題の兆候ではありませんが、チャットボットが問題の根本原因であることに変わりはありません。
ChatGPT はそれ自体が良すぎる
ChatGPT が公開されて以来、私は ChatGPT を使って遊んでいます。私はサブスクリプションベースの ChatGPT Plus と誰でも利用できる無料モデルの両方を試しました。新しい GPT-4 のパワーは否定できません。 ChatGPT は以前よりもさらに信頼できるものになり、 GPT-5 ( もしそれが登場するなら ) でさらに良くなるはずです。
すごいけど、怖いですね。 ChatGPT は、それ自体の利益のために、そして同時に、 私たち 自身の利益のためにも、あまりにも優れたものになりつつあります。
すべての中心には、さまざまな SF 映画で長い間探求されてきた 1 つの単純な懸念があります。AI は単純に賢すぎると同時に愚かすぎるため、良い目的で使用できる限り、AI は将来も同様です。同様に多くの方法で悪い意味で使用されます。上記に挙げた方法は氷山の一角にすぎません。