OpenAIは、ユーザーの感情や心理的苦痛により適切に対応できるようChatGPTの改良を発表した。

BlockBeatsは8月27日、ユーザーが精神的に参っている際にチャットボットに助けを求めるという報告を受け、OpenAIはChatGPTを改良し、心理的および感情的な苦痛の兆候をより適切に特定し、対応すると発表したと報じました。OpenAIはブログ投稿で次のように述べています。「ユーザーが極度の苦痛を抱えながらChatGPTを使用したという、最近起きた悲痛な事例の数々に深く心を痛めており、今こそより多くの情報を共有することが重要だと考えています。」

OpenAIは、今後のアップデートにより、深刻な自傷行為の兆候が見られない場合でも、ユーザーが現実世界に戻ることができるようになると述べています。同社はまた、深刻な危機に陥る前にユーザーとセラピストをつなぐ方法も検討しています。これは、自傷行為の意思を示した場合に自殺願望のあるホットラインへの連絡を推奨する現在のモデルからの大きな転換です。