OpenAI утверждает, что ChatGPT for Teens сделает ИИ более безопасным для юных пользователей. Запуск произошел на фоне судебных исков о том, безопасен ли ChatGPT для детей. Однако эксперты по детской безопасности заявляют, что компании еще предстоит доказать реальную эффективность применяемых мер защиты. Вот что вам следует знать.
Запущенная в августе 2026 года версия ChatGPT for Teens представляет собой режим с возрастными ограничениями, который автоматически включается по умолчанию, если пользователю еще нет 18 лет. После активации режим применяет более строгие правила в отношении контента и в некоторых случаях отправляет оповещения родителям через привязанный аккаунт.
Эксперты по детской безопасности, впрочем, настроены скептически. Робби Торни из Common Sense Media сообщил изданию Engadget(новое окно), что OpenAI берет на себя важные обязательства по безопасности, но необходимы доказательства их фактической работоспособности.
Джош Голин из Fairplay отметил, что защитные меры могут выглядеть многообещающе на бумаге, но не содержат механизмов контроля и рискуют оказаться скорее PR-ходом, чем тщательно протестированной системой безопасности. Оба эксперта усомнились в самой системе, которая оценивает возраст, при этом Голин также предупредил, что существующие ограничения ChatGPT в отношении тем самоубийств, насилия и употребления наркотиков со временем давали сбои или ослабевали.
Как работает ChatGPT for Teens
ChatGPT оценивает вероятность того, принадлежит ли аккаунт лицу младше 18 лет, комбинируя данные об аккаунте и поведенческие сигналы, среди которых:
- возраст, указанный пользователем;
- срок существования аккаунта;
- общие обсуждаемые темы;
- типичное время активности;
- характер использования аккаунта с течением времени.
Когда модель предполагает, что аккаунт может принадлежать несовершеннолетнему, ChatGPT автоматически переводит его в режим ChatGPT for Teens, где действуют более строгие меры защиты, включая ограничения на темы романтических отношений, эмоциональной зависимости, материалов о самоповреждении и разговоров о расстройствах пищевого поведения.
Если аккаунт подростка связан с родительским, OpenAI также может отправить оповещение, когда диалог указывает на риск самоповреждения. Компания сообщила Engadget, что каждый отмеченный диалог будет проверяться штатным сотрудником OpenAI перед отправкой оповещения с целью уведомить родителей в течение одного часа с момента ввода запроса. Это чрезвычайно амбициозное обязательство, и эксперты по детской безопасности сомневаются, что OpenAI сможет реализовать его в масштабных объемах.
Совершеннолетние пользователи, ошибочно переведенные на версию для подростков, могут подтвердить свой возраст через Persona — сторонний сервис проверки возраста. В зависимости от страны Persona может запросить селфи в реальном времени, удостоверение личности государственного образца или и то, и другое.
Проверка возраста внедряется в сферу ИИ
Ужесточение мер безопасности может принести пользу — при условии, что они действительно работают. Однако определение тех, к кому их применять, влечет за собой угрозу для конфиденциальности. Это настоящая слежка со стороны ИИ: ChatGPT классифицирует людей, анализируя то, что они обсуждают, а также когда и как они используют сервис со временем.
Взрослым, ошибочно отнесенным к категории несовершеннолетних, возможно, придется подтверждать возраст через Persona. OpenAI заявляет, что не получает сами селфи или документы, а Persona удаляет загруженные материалы в течение семи дней. Тем не менее для восстановления полного доступа пользователям может потребоваться передать конфиденциальные личные данные сторонней службе верификации.
Такой компромисс в вопросах конфиденциальности трудно оправдать, когда эффективность базовых механизмов защиты еще не доказана. Как предупреждают эксперты по детской безопасности, OpenAI пока не продемонстрировала надежную работу системы прогнозирования возраста, ограничений контента или родительских оповещений в больших масштабах. К тому же подростки находят изобретательные способы обхода проверок возраста на других платформах, включая Discord, и могут поступить точно так же с ChatGPT.
ChatGPT for Teens также создает риск того, что прогнозирование и проверка возраста станут привычным условием для получения доступа к большим языковым моделям (LLM), при котором от пользователей любого возраста могут потребовать раскрытия большего объема сведений об их личных данных и поведении. Это может поставить LLM в один ряд с социальными сетями и веб-сайтами для взрослых, превратив их в еще одну категорию онлайн-сервисов, стимулирующих распространение законов о проверке возраста. По мере развития нормативного регулирования ИИ, такого как Закон ЕС об искусственном интеллекте, проверка возраста, вероятно, станет стандартным требованием и для чат-ботов.
Более безопасный ИИ-помощник, защищающий вашу конфиденциальность
Lumo — это принципиально иной, конфиденциальный ИИ-помощник. Он не оценивает ваш возраст по особенностям использования, не регистрирует диалоги в журналах и не обучается на ваших данных. Мы никогда не сканируем ваши чаты и не передаем их кому-либо — эта политика подкреплена теми же принципами шифрования с нулевым доступом, которые защищают все остальные продукты Proton.
Сервисом может пользоваться любой человек в возрасте от 13 лет, при этом для несовершеннолетних требуется согласие родителей, и в нем нет скрытых механизмов профилирования. Если вы ищете альтернативу ChatGPT, созданную с заботой о конфиденциальности, начните с этого сервиса.
Если вы хотите подробнее узнать о том, как инструменты ИИ собирают и используют ваши данные, в нашем руководстве по ИИ подробно разбираются вопросы слежки, безопасности и обеспечения конфиденциальности.
