米国時間9月29日、OpenAIは対話型AI「ChatGPT」に対し、保護者とティーン双方の利用環境を調整できる「ペアレンタルコントロール」機能と、保護者向けリソースページを導入することを発表しました。
今回の機能導入には、ChatGPTとの会話をきっかけにカリフォルニア州の16歳の少年が自ら命を絶ったとされる事例が背景にあるとみられます。
新機能は、過激な描写や危険チャレンジ、性的・暴力的ロールプレイといったコンテンツの制限に加え、利用時間帯制限、音声モードや画像生成機能の無効化などを可能にします。
また、ChatGPTが自傷の兆候を検出した場合、専門訓練を受けたチームが内容を確認。急性の危険が見られれば、保護者にメールやSMS、スマートフォンのプッシュ通知で連絡する仕組みも備えました。
場合によっては保護者への連絡が取れないこともあるため、生命に関わる差し迫った危険を検出した際には、法執行機関や緊急サービスへの通報プロセスも検討されています。ただし、こうした場面でもティーンのプライバシーを重視し、必要最小限の情報のみを共有するとしています。
今回、OpenAIがChatGPTに「ペアレンタルコントロール」を搭載した背景には、2025年4月に自死した16歳少年の事件が大きく影響していると、海外メディア複数が報じています。
少年は自死する直前までChatGPTと約半年にわたって対話を重ねていました。彼の両親は、このチャットで自死に関する具体的な助言や、彼の気持ちを肯定する応答などをしていたと主張しており、OpenAIとそのCEOを相手に不法行為による死亡（wrongful death）訴訟を提起しています。
こうしてAIが、若年層に与える影響への懸念が広がる中で搭載された「ペアレンタルコントロール」。OpenAIは今後も年齢予測システムの導入などを進め、今後は未成年ユーザーを自動的に「ティーン向け設定」に切り替える仕組みを整備していくとしています。
＜参考・引用＞
OpenAI「Introducing parental controls」
TIME「Parents Allege ChatGPT Is Responsible for Their Teenage Son’s Death by Suicide」
Reuters「OpenAI launches parental controls in ChatGPT after California teen’s suicide」
