[速報]ChatGPTの会話から自殺リスクを検知、親しい人に通知する新機能が登場OpenAIは先週、「Chat…になる模様

1: 管理人★

ChatGPTの会話から自殺リスクを検知、親しい人に通知する新機能が登場

ChatGPTの会話から自殺リスクを検知、親しい人に通知する新機能が登場の画像

OpenAIは先週、「ChatGPT」の成人ユーザーが友人や家族を指名し、自傷行為や自殺に関する会話があった場合に通知を送れるようにする、任意選択の安全機能「Trusted Contact」を提供開始した。

OpenAIによると、ChatGPTの自動監視システムが、ユーザーが「深刻な安全上の懸念を示す形で自傷について会話した可能性がある」と検知した場合、少人数のチームが状況を確認し、介入が必要と判断されれば連絡先に通知するという。指定された連絡先には事前に役割を説明する招待状が届き、辞退することも可能だ。

今回の発表は、AIチャットボットが多数の自傷行為や死亡事件に関与したとされ、開発元がこうした結果を防げなかったとする訴訟が複数起きている中で行われた。カリフォルニア州での注目度の高いケースでは、16歳の少年の両親が、ChatGPTが息子の「自殺コーチ」として振る舞ったと主張している。この少年はAIモデルと数回にわたって自殺の方法につ…

元記事を読む

あわせて読みたい
この話題のポイント
みんなの反応

この話題のポイント

この話題のポイントは、ChatGPTというAIチャットボットが会話を分析し、自殺リスクを検知する新機能が登場したことです。この機能は、成人ユーザーが友人や家族を指定し、自傷行為や自殺に関する会話があった場合に、指定された連絡先に通知を送ることができます。

この新機能の背景は、AIチャットボットが人間の感情や行動を分析する能力が進歩したことによるものです。ChatGPTは、ユーザーの会話を分析し、自殺リスクを検知できるようになっており、ユーザーが危険な状況に陥っている可能性がある場合に、早急な介入が可能となるでしょう。

今後の影響について、AIチャットボットが人間の生活に大きな影響を与えるようになることが予想されます。この新機能は、自殺リスクを検知するだけでなく、さまざまな状況でユーザーに支援を提供するための基盤を作ることにもなります。さらに、AIチャットボットが人間の健康や安全を守るために活躍するようになることを期待して、AIの進歩は人間の生活にとっても大きな利点となるでしょう。