他の多くの人と同様に、私は現在 、AI の急速な進歩 に魅了され、そして少し恐怖を感じています。この技術は役に立ちそうな気がしますが、いくつかの応用には不安が残ります。ウェブサイトは人間のライターを間違いの多いロボットに置き換え、ハリウッドはクリエイティブな才能をテクノロジーから守ることを拒否し、 サムナー のような AI 生成のゲームは ボットの盗作について危険信号を上げています。ここ数ヶ月で私が一番気になっているのは、AI療法の存在です。
現在、何らかの方法で治療を自動化するサービスがいくつか利用可能です。 Woebot は 、個人のメンタルヘルス ツールとして位置付けられている「自動会話エージェント」です。ユーザーは毎日それにチェックインして、健康に関するヒントやビデオを送信するチャットボットと簡単な会話をすることができます。一方、 Wysa は ユーザーと AI コーチを組み合わせますが、プレミアム ユーザーは 1 対 1 の人によるサポートを追加できます。従来の治療法が実際の人間とのつながりにどれほど依存しているかを考えると、それを自動化するという考えは災難を招くレシピのように思えます。
これらすべてに私が特に興味をそそられるのには理由があります。それは、 『Eliza』 という小さなビジュアルノベルのおかげです。 2019 年にリリースされたこの 、AI のメンタルヘルス分野への憂慮すべき動きを静かに予測していました。これは、人間のつながりを自動化することの複雑さについての優れた警告物語であり、テクノロジー起業家が多くを学ぶことができるものです。
エリザへようこそ
シアトルを舞台にした イライザは 、スカンダと呼ばれる架空の Apple に似た巨大企業が設立した新しいテクノロジーベンチャーで働き始めるエブリン・イシノ＝オーブリーというキャラクターを追っていきます。同社は、AI ガイドによるセラピー セッションを比較的手頃な価格でユーザーに提供する、Eliza と呼ばれる仮想カウンセリング アプリを作成しました。
ただし、Eliza は単なる顔のないチャットボットではありません。対面療法の人間的要素を維持するために、このアプリはクライアントに直接座り、ボットから生成された応答をリアルタイムで読み取る人間の代理人を採用しています。スカンダ氏は、その方法論は科学に基づいているため、代理人が脚本から逸脱することはいかなる形であっても禁止されていると主張している。それらは単に、マシンが吐き出すアドバイスに具体的な顔を加えるためにそこにあるだけです。
このゲームは、そのアイデアを行き過ぎたディストピアのコンセプトとして提示したいという衝動に抵抗します。代わりに、 のトーンと似た、リアリズムに基づいたトーンを選択しています。これにより、時代を先取りした人間との対話の自動化について、深刻かつ微妙な疑問を投げかけることができます。 5時間のこの物語は、そのようなAIアプリケーションが純利益であり、治療のような高価なものをより身近なものにするのか、それとも単に利益のために人間のやりとりを引き換えにする大手テクノロジー企業による搾取的なビジネス上の意思決定なのかを問うている。
プレイヤーは、 Eliza のビジュアル ノベル システムを通じてこれらの疑問を探求します。ここではインタラクションは最小限であり、プレイヤーはエヴリンの対話オプションを選択するだけです。しかし、それは彼女のセッションに大きな影響を与えます。物語全体を通して、エブリンはサービスに定期的に加入している少数の顧客と会います。単に人生の賭けのないドラマについて独り言を言うためにそこにいる人もいますが、より深刻な問題を抱えて奉仕に来ている人もいます。個々の状況の深刻さに関係なく、イライザはエブリンが読めるように同じ平坦な台本を吐き出し、セッション全体を通して繰り返し質問をし、呼吸法と薬を処方します。
エブリンはクライアントの生活に注力すればするほど、テクノロジーの限界が見えてきます。イライザの頼れるアドバイスの中には、すべての問題に対する万能の解決策ではないものもあり、問題を抱えたクライアントは実際の人間に本当の助けを求め始めます。プレイヤーには、台本を無視してエブリンに問題を自分の手で解決させるという選択肢が与えられますが、これは彼女の仕事とクライアントの幸福の両方に重大な影響を及ぼします。
それは必ずしも正しい答えではありません。彼女のアドバイスの中にはクライアントに必要な助けを与えるものもあれば、さらに悪循環に陥る人もいます。彼女の言葉は彼女が予期しない方法でねじ曲げられる可能性がありますが、イライザの安全なアルゴリズムはそれを防ぐように構築されています。殺菌されたスクリプトに固執する方が安全ですか、それとも少なくとも実際の接続を試みる方が安全ですか?そして、このようなテクノロジーは最終的には役立つというよりも害を及ぼすことになるのでしょうか、それともその逆なのでしょうか？
イライザはこれらの質問には答えず、プレイヤーが理解するしかありません。これは現代のテクノロジーに対する思慮深い調査であり、ゲームの架空のテクノロジーに危険なほど近い Wysa のようなサービスの出現を考えると、その緊急性はますます高まっています。あなたが ChatGPT のような AI ツール を支持している人でも、断固として反対している人でも、Eliza はマシンと人間の両方の限界についての思慮深い教訓を提供します。
Eliza は PC と Nintendo Switch で利用可能です。