OpenAI menyatakan bahwa ChatGPT for Teens akan membuat AI lebih aman bagi pengguna muda. Peluncuran ini dilakukan di tengah tuntutan hukum terkait apakah ChatGPT aman bagi anak-anak. Namun, para pakar keselamatan anak mengatakan bahwa perusahaan masih harus membuktikan bahwa perlindungannya benar-benar berfungsi. Inilah yang perlu Anda ketahui.
Diluncurkan pada bulan Agustus 2026, ChatGPT for Teens adalah pengalaman dengan pembatasan usia yang secara otomatis menjadi bawaan ketika pengguna teridentifikasi berusia di bawah 18 tahun. Setelah diaktifkan, fitur ini menerapkan aturan konten yang lebih ketat dan, dalam beberapa kasus, memberi tahu orang tua yang memiliki akun tertaut.
Namun, para pakar keselamatan anak merasa skeptis. Robbie Torney dari Common Sense Media mengatakan kepada Engadget(jendela baru) bahwa OpenAI membuat komitmen keselamatan yang penting, tetapi memerlukan bukti bahwa komitmen tersebut benar-benar berfungsi.
Josh Golin dari Fairplay mengatakan langkah perlindungan mungkin terlihat menjanjikan di atas kertas tetapi kurang memiliki akuntabilitas, dan berisiko lebih condong menjadi respons hubungan masyarakat daripada sistem keselamatan yang teruji dengan cermat. Keduanya mempertanyakan sistem yang memperkirakan usia tersebut, sementara Golin juga memperingatkan bahwa pembatasan ChatGPT yang ada saat ini terkait bunuh diri, kekerasan, dan penggunaan narkoba telah gagal atau melemah seiring berjalannya waktu.
Cara kerja ChatGPT for Teens
ChatGPT memperkirakan apakah sebuah akun kemungkinan milik seseorang yang berusia di bawah 18 tahun dengan menggabungkan sinyal akun dan perilaku, termasuk:
- Usia yang diberikan oleh pengguna
- Berapa lama akun tersebut telah ada
- Topik umum yang dibahas
- Waktu aktivitas yang lazim
- Bagaimana penggunaan akun berkembang seiring waktu
Ketika model memprediksi bahwa akun tersebut mungkin milik anak di bawah umur, ChatGPT secara otomatis mengalihkan akun tersebut ke pengalaman ChatGPT for Teens, di mana perlindungan yang lebih ketat diterapkan, termasuk batasan pada bahasa romantis, ketergantungan emosional, konten yang memicu bahaya terhadap diri sendiri, dan percakapan mengenai gangguan makan.
Bagi remaja yang akunnya ditautkan ke akun orang tua, OpenAI juga dapat mengirimkan peringatan ketika suatu percakapan mengindikasikan risiko bahaya terhadap diri sendiri. Perusahaan memberi tahu Engadget bahwa setiap percakapan yang ditandai akan ditinjau oleh karyawan purnawaktu OpenAI sebelum peringatan dikirim, dengan tujuan memberi tahu orang tua dalam waktu satu jam setelah perintah dimasukkan. Ini adalah komitmen yang sangat ambisius yang diragukan oleh para pakar keselamatan anak dapat dijalankan oleh OpenAI dalam skala besar.
Orang dewasa yang salah dimasukkan ke dalam pengalaman remaja dapat memverifikasi usia mereka melalui Persona, layanan verifikasi usia pihak ketiga. Bergantung pada negaranya, Persona dapat meminta swafoto langsung, tanda pengenal resmi yang diterbitkan pemerintah, atau keduanya.
Verifikasi usia akan hadir untuk AI
Batas pengaman yang lebih kuat bisa menjadi hal yang baik, asalkan berfungsi. Namun, menentukan siapa yang menerimanya harus dibayar dengan pengorbanan privasi. Ini adalah pengawasan AI: ChatGPT mengklasifikasikan orang dengan menganalisis apa yang mereka diskusikan, kapan mereka menggunakan layanan, dan bagaimana mereka menggunakannya seiring waktu.
Orang dewasa yang keliru diklasifikasikan sebagai anak di bawah umur mungkin harus memverifikasi usia mereka melalui Persona. OpenAI menyatakan tidak menerima swafoto atau tanda pengenal itu sendiri, dan Persona menghapus materi yang diunggah dalam waktu tujuh hari. Meski begitu, memulihkan akses penuh mungkin mengharuskan pengguna menyerahkan informasi identitas sensitif ke layanan verifikasi pihak ketiga.
Kompromi privasi tersebut lebih sulit dibenarkan ketika perlindungan dasarnya masih belum terbukti. Seperti yang telah diperingatkan oleh para pakar keselamatan anak, OpenAI belum menunjukkan bahwa sistem prediksi usia, perlindungan konten, atau peringatan orang tuanya akan berfungsi dengan andal dalam skala besar. Selain itu, para remaja telah menemukan cara kreatif untuk menghindari pemeriksaan usia di platform lain, termasuk Discord, dan mereka dapat melakukan hal yang sama dengan ChatGPT.
ChatGPT for Teens juga berisiko menormalkan prediksi dan verifikasi usia sebagai syarat untuk mengakses large language model (LLM), di mana pengguna dari segala usia mungkin diminta untuk menyerahkan lebih banyak informasi tentang identitas dan perilaku mereka. Hal tersebut dapat menempatkan LLM sejajar dengan platform media sosial dan situs web dewasa sebagai kategori layanan daring lainnya yang mendorong penyebaran undang-undang verifikasi usia. Seiring berkembangnya regulasi AI, seperti EU AI Act, verifikasi usia kemungkinan juga akan menjadi persyaratan standar bagi chatbot.
Asisten AI yang lebih aman yang melindungi privasi Anda
Lumo adalah asisten AI yang berbeda dan bersifat pribadi. Lumo tidak memperkirakan usia Anda berdasarkan cara Anda menggunakannya, dan juga tidak mencatat log percakapan Anda atau melatih AI dengan data Anda. Kami tidak pernah memindai atau membagikan obrolan Anda dengan siapa pun, sebuah kebijakan yang didukung oleh prinsip enkripsi zero-access yang sama yang melindungi produk Proton lainnya.
Siapa pun yang berusia 13 tahun ke atas dapat menggunakannya, dengan persetujuan orang tua yang diwajibkan bagi anak di bawah umur, dan tidak ada mekanisme pemrofilan yang berjalan di baliknya. Jika Anda mencari alternatif ChatGPT yang dibangun dengan mengutamakan privasi, Anda dapat memulai dari sana.
Jika Anda ingin melihat lebih mendalam bagaimana alat AI mengumpulkan dan menggunakan data Anda, panduan AI kami menguraikan praktik pengawasan, keamanan, dan privasi.
