OpenAIは、ChatGPT for Teensによって若いユーザーにとってAIがより安全になると述べています。今回のローンチは、子どもにとってChatGPTが安全かどうかをめぐる訴訟のさなかに行われました。しかし、子どもの安全に関する専門家は、同社がその保護機能が実際に機能することをまだ証明する必要があると述べています。知っておくべきポイントは以下のとおりです。

2026年8月にローンチされたChatGPT for Teensは、ユーザーが18歳未満であると識別された場合に自動的にデフォルトとなる年齢制限付きのエクスペリエンスです。有効化されると、より厳格なコンテンツルールが適用され、場合によってはリンクされたアカウントを持つ親にアラートが送信されます。

しかし、子どもの安全に関する専門家は懐疑的です。Common Sense MediaのRobbie Torney氏はEngadget(新しいウィンドウ)に対し、OpenAIは安全性に関する重要なコミットメントを行っているものの、それらが実際に機能するという証拠が必要であると語りました。

FairplayのJosh Golin氏は、セーフガードは書類上は有望に見えるかもしれないが説明責任に欠けており、慎重にテストされた安全システムというよりも広報的な対応に過ぎないリスクがあると述べました。両者とも年齢を推定するシステムそのものに疑問を呈しており、さらにGolin氏は、自殺、暴力、薬物使用に関するChatGPTの既存の制限が時間の経過とともに破綻したり弱まったりしていることについても警告しました。

ChatGPT for Teensの仕組み

ChatGPTは、アカウントと行動に関する以下のようなシグナルを組み合わせて、アカウントが18歳未満のものである可能性が高いかどうかを推定します。

  • ユーザーが申告した年齢
  • アカウントの開設期間
  • 会話された一般的なトピック
  • 典型的なアクティビティの時間帯
  • アカウントの利用状況の経時的な変化

モデルがアカウントが未成年のものである可能性があると予測すると、ChatGPTはそのアカウントをChatGPT for Teensのエクスペリエンスへと自動的に切り替えます。そこでは、恋愛的な言葉遣い、感情的な依存、自傷行為に関するコンテンツ、摂食障害に関する会話の制限など、より厳格なセーフガードが適用されます。

親のアカウントにリンクされているティーンのアカウントについては、会話から自傷行為のリスクが示唆された場合、OpenAIがアラートを送信することもあります。同社がEngadgetに語ったところによると、フラグが立てられたすべての会話はアラートが送信される前にOpenAIの正社員によって確認され、プロンプト入力から1時間以内に親に通知することを目標としています。これは極めて野心的なコミットメントであり、子どもの安全に関する専門家はOpenAIが大規模に実現できるかどうか疑問視しています。

誤ってティーン向けエクスペリエンスに分類された成人は、サードパーティの年齢確認サービスであるPersonaを通じて年齢を確認できます。国によっては、Personaはリアルタイムの自撮り写真、政府発行の身分証明書、またはその両方を要求する場合があります。

AIにも迫る年齢確認の波

より強固なガードレールは、機能する限り良いものになり得ます。しかし、誰にそれを適用するかを決定することにはプライバシーの代償が伴います。これこそがAI監視です。ChatGPTは、ユーザーが何を話し、いつサービスを利用し、時間をかけてどのように利用しているかを分析することで人々を分類します。

誤って未成年者に分類された成人は、Personaを通じて年齢確認を行わなければならない場合があります。OpenAIは自撮り写真や身分証明書そのものは受け取っておらず、Personaはアップロードされた素材を7日以内に削除するとしています。それでも、完全なアクセスを復元するには、ユーザーが機密性の高いユーザー情報をサードパーティの確認サービスに渡す必要があるかもしれません。

根本的な保護機能が未実証のままである場合、そのプライバシーのトレードオフを正当化することはさらに困難になります。子どもの安全に関する専門家が警告しているように、OpenAIは年齢予測システム、コンテンツのセーフガード、または親へのアラートが大規模環境で確実に機能することをまだ実証していません。さらに、十代の若者たちはDiscordを含む他のプラットフォームで年齢確認を回避する独創的な方法を見つけており、ChatGPTでも同様のことが可能です。

また、ChatGPT for Teensには、大規模言語モデル（LLM）にアクセスする条件として年齢予測や年齢確認を常態化させ、あらゆる年齢のユーザーが自身のユーザー情報や行動に関するより多くの情報を明け渡すよう求められるリスクもあります。これによりLLMは、ソーシャルメディアプラットフォームやアダルトウェブサイトと並び、年齢確認法の普及を推進するもう一つのオンラインサービスカテゴリとなる可能性があります。EU AI法などのAI規制が進むにつれて、年齢確認はチャットボットにとっても標準的な要件になる可能性が高いでしょう。

プライバシーを保護する、より安全なAIアシスタント

Lumoは、プライベートでまったく異なるAIアシスタントです。使い方に基づいて年齢を推定することはなく、会話をログに記録したり、データを学習に使用したりすることもありません。弊社がお客さまのチャットをスキャンしたり誰かと共有したりすることは決してありません。このポリシーは、他のProton製品を保護しているのと同じゼロアクセス暗号化の原則に基づいています。

13歳以上であれば誰でも利用でき（未成年者には親の同意が必要）、内部でプロファイリングの仕組みが動作することもありません。プライバシーを中心に構築されたChatGPTの代替をお探しなら、まずはここから始めましょう。

Lumoとチャットする(新しいウィンドウ)

AIツールがどのようにデータを収集・使用しているかについて詳しく知りたい場合は、弊社のAIガイドで監視、セキュリティ、プライバシーの取り組みについて詳しく解説しています。