OpenAI tvrdí, že ChatGPT for Teens zajistí větší bezpečnost AI pro mladé uživatele. Spuštění přichází uprostřed žalob ohledně toho, zda je ChatGPT bezpečný pro děti. Odborníci na bezpečnost dětí však tvrdí, že společnost musí teprve dokázat, že její ochranná opatření skutečně fungují. Zde je vše, co byste měli vědět.
Služba ChatGPT for Teens, spuštěná v srpnu 2026, je věkově omezené prostředí, které se automaticky stane výchozím, jakmile je uživatel identifikován jako mladší 18 let. Po aktivaci uplatňuje přísnější pravidla pro obsah a v některých případech upozorňuje rodiče s propojeným účtem.
Odborníci na bezpečnost dětí jsou však skeptičtí. Robbie Torney z organizace Common Sense Media pro server Engadget(nové okno) uvedl, že OpenAI sice činí důležité bezpečnostní závazky, ale jsou zapotřebí důkazy, že skutečně fungují.
Josh Golin z organizace Fairplay uvedl, že bezpečnostní pojistky mohou na papíře vypadat slibně, ale postrádají odpovědnost a hrozí, že půjde spíše o PR reakci než o pečlivě otestovaný bezpečnostní systém. Oba zpochybnili samotný systém, který odhaduje věk, přičemž Golin také varoval, že stávající omezení ChatGPT týkající se sebevražd, násilí a užívání drog v průběhu času selhala nebo zeslábla.
Jak ChatGPT for Teens funguje
ChatGPT odhaduje, zda účet pravděpodobně patří osobě mladší 18 let, kombinací signálů z účtu a chování uživatele, včetně:
- Věku zadaného uživatelem
- Doby existence účtu
- Obecných probíraných témat
- Obvyklé doby aktivity
- Vývoje používání účtu v průběhu času
Pokud model předpoví, že účet může patřit nezletilému, ChatGPT tento účet automaticky přepne do prostředí ChatGPT for Teens. V něm platí přísnější bezpečnostní opatření, včetně omezení romantického jazyka, citové závislosti, obsahu týkajícího se sebepoškozování a konverzací o poruchách příjmu potravy.
U dospívajících, jejichž účty jsou propojeny s účtem rodiče, může OpenAI také odeslat upozornění, pokud konverzace naznačuje riziko sebepoškozování. Společnost pro Engadget uvedla, že každou označenou konverzaci před odesláním upozornění zkontroluje kmenový zaměstnanec OpenAI s cílem informovat rodiče do jedné hodiny od zadání dotazu. Jde o mimořádně ambiciózní závazek a odborníci na bezpečnost dětí pochybují, že jej OpenAI dokáže ve větším měřítku dodržet.
Dospělí, kteří jsou do prostředí pro náctileté zařazeni omylem, mohou svůj věk ověřit prostřednictvím služby Persona, což je služba pro ověřování věku od třetí strany. V závislosti na dané zemi může Persona vyžadovat živé selfie, úřední průkaz totožnosti nebo obojí.
Ověřování věku přichází i do světa AI
Přísnější mantinely mohou být dobrá věc, pokud fungují. Rozhodování o tom, koho se týkají, si však vybírá daň v podobě ztráty soukromí. Jde o sledování ze strany AI: ChatGPT kategorizuje lidi na základě analýzy toho, o čem diskutují, kdy službu používají a jak s ní v průběhu času pracují.
Dospělí, kteří byli nesprávně vyhodnoceni jako nezletilí, možná budou muset ověřit svůj věk přes službu Persona. OpenAI uvádí, že samotné selfie ani průkaz totožnosti neobdrží a že Persona nahrané materiály do sedmi dnů smaže. I tak může obnovení plného přístupu vyžadovat, aby uživatelé předali citlivé údaje o své identitě ověřovací službě třetí strany.
Tento kompromis v oblasti soukromí je o to těžší obhájit, když samotná ochranná opatření zůstávají neprokázaná. Jak varovali odborníci na bezpečnost dětí, OpenAI dosud neprokázala, že její systém predikce věku, bezpečnostní pojistky obsahu nebo upozorňování rodičů budou spolehlivě fungovat ve velkém měřítku. Dospívající navíc našli kreativní způsoby, jak věkové kontroly obejít na jiných platformách, včetně Discordu, a totéž mohou udělat i v případě ChatGPT.
ChatGPT for Teens také riskuje normalizaci predikce a ověřování věku jako podmínky pro přístup k velkým jazykovým modelům (LLM), kde uživatelé jakéhokoli věku mohou být žádáni o poskytnutí dalších informací o své identitě a chování. Tím by se LLM mohly zařadit po bok sociálních sítí a webů pro dospělé jako další kategorie online služeb, které podněcují zavádění zákonů o ověřování věku. S rozvojem regulace AI, jako je například Akt EU o umělé inteligenci, se ověřování věku pravděpodobně stane standardním požadavkem i pro chatboty.
Bezpečnější AI asistent, který chrání vaše soukromí
Lumo je jiný, soukromý AI asistent. Neodhaduje váš věk na základě toho, jak jej používáte, ani neukládá záznamy o vašich konverzacích a netrénuje na vašich datech. Vaše chaty nikdy neskenujeme ani s nikým nesdílíme – tuto zásadu zajišťují stejné principy šifrování s nulovým přístupem, které chrání i ostatní produkty Protonu.
Používat jej může kdokoli od 13 let (u nezletilých je vyžadován souhlas rodičů) a na pozadí neběží žádný profilovací mechanismus. Pokud hledáte alternativu k ChatGPT postavenou na ochraně soukromí, začněte právě zde.
Pokud se chcete podrobněji podívat na to, jak nástroje AI shromažďují a využívají vaše data, náš průvodce umělou inteligencí podrobně rozebírá praktiky sledování, zabezpečení i ochrany soukromí.
