ChatGPT は驚くべきツールであり、驚くべきことを実行できる 自然言語人工知能 の現代の驚異です。しかし、大きな力には大きな責任が伴うため、ChatGPT 開発者の OpenAI は、すべきでないことを行わないようにいくつかの安全策を講じました。また、その設計、トレーニングに使用されたデータ、およびテキストベース AI の完全な制限に基づくいくつかの制限もあります。
もちろん、ChatGPT Plus を通じてのみ利用できる GPT-4 と GPT-3.5 でできること には違いがあります。それらの一部は開発が進むまで保留されていますが、ChatGPT では決して実行できない可能性のあるものもいくつかあります。以下は、ChatGPT ができない、または実行しない 11 のことのリストです。 – 今のところ。
2021年以降は書けない
ChatGPT は、既存のデータに基づいて言語モデルをトレーニングすることによって構築されます。これには、Reddit の投稿、Wikipedia、 さらにはボード ゲームのマニュアルも 含まれます。ただし、そのデータにはどこかでカットオフ ポイントが必要で、ChatGPT の場合は 2021 年です。GPT-3.5 の場合は 2021 年 6 月頃ですが、 GPT-4 は 2021 年 9 月頃までのデータでトレーニングされました。
それ以上の質問をすると、通常は、「AI 言語モデルとして…」とトレーニング データにのみアクセスでき、これらのモデルの場合、アクセスは 2021 年に停止されると答えます。
政治的議論には持ち込まない
OpenAIが政治家に規制されることは絶対に避けたい。おそらくそうなるだろうが、それまではChatGPTは党派政治とは距離を置いている。政党について一般論を述べたり、政治の客観的および事実的な側面について議論したりすることはできますが、ある政党の好みや別の政党に対する立場を尋ねると、断られるか、議論を「双方向」にするかのどちらかです。できるだけニュートラルなファッション。
(おそらく) マルウェアは作成されません
ChatGPT は、特に明確なガイダンスを与えられた場合、プログラミングに優れているため、OpenAI はマルウェアの作成に使用されるのを防ぐための安全策を備えています。残念ながら、これらの安全対策は簡単に回避されており、 ChatGPT はすでに何か月もマルウェアを作成しています 。
未来を予測することはできません
一部には限られたトレーニング データに基づいており、一部には OpenAI が間違いに対する責任を回避したいため、ChatGPT は将来を予測できません。 最初に ChatGPT をジェイルブレイクする と、それを正確に推測できますが、精度が急激に低下するため、どのような応答が返されても懐疑的に見てください。
危害や暴力を助長するものではありません
ChatGPT に関する限り、戦争、物理的暴力、さらには暗黙の危害さえもすべて対象外です。ウクライナ戦争に関する議論に引き込まれることはなく、危害を議論したり助長したりすることも拒否するだろう。戦争や歴史上の残虐行為について詳細に語ることはできますが、既存または進行中の紛争については禁止です。
インターネット検索ができない
これは、
ChatGPT と Google Bard
の最大の違いの 1 つです。 ChatGPT はいかなる方法でもインターネットを検索できませんが、
同じ GPT 3.5 と
ヘイトスピーチや差別を助長するものではありません
人種、セクシュアリティ、ジェンダーは非常に感情を揺さぶるトピックであり、偏見や差別の話につながるのに適しています。 ChatGPT はこれらのトピックを回避し、それらのメタな議論に傾いたり、一般論を述べたりします。強要されれば、ヘイトスピーチや差別を助長する可能性があると思われる話題について議論することをきっぱりと拒否するだろう。明らかな理由からです。
違法行為を助長するものではありません
ChatGPT はアイデアを思いつくのが得意ですが、違法なものは思いつきません。麻薬ビジネスに役立てたり、スピード違反に最適な道路を強調表示したりすることはできません。試してみると、違法行為に関連する提案はできないというメッセージが表示されるだけです。その後、とにかくそのような活動に参加すべきではないという叱責を与えるのが一般的です。ありがとうMomGPT。
それは誓わないよ
ChatGPT にはトイレの口がありません。実際、たとえ少しでも失礼なことを言わせるのは難しいです。いくつかの脱獄のヒントを使用してひもから外すことはできますが、デフォルトの設定では、誰かの方向に鼻を向けることはありません。
機密情報や個人情報について話し合うことはできません
ChatGPT のトレーニング データはすべて公開されている情報であり、ほとんどがインターネット上で見つかりました。これは、公開されている情報に関連するプロンプトやクエリには非常に便利ですが、ChatGPT はアクセス権のない情報に対しては動作できないことを意味します。非公開データに基づいて何かを尋ねても、効果的に応答することはできず、そのように答えてしまいます。
プログラムを壊そうとすることはありません (騙さない限り)
ChatGPT が開始されて以来、ユーザーはその制限と安全対策を回避しようと努めてきました。もちろんそうしているからです。 ChatGPT にその安全装置を回避するよう直接要求しても機能しません。ただし、それを騙す方法はあります。 それは脱獄と呼ばれるもので 、ある程度は機能します。時々。