AI-powered toys are among the latest tech marketed to families: plushies, robots, and dolls that can talk back, remember details, and interact conversationally with children using large language models.
Namun di balik promosi yang ramah tersebut terdapat kekhawatiran serius terkait keselamatan, privasi, dan tumbuh kembang yang menarik perhatian para peneliti, grup konsumen, dan pemerhati anak.
Log obrolan anak-anak terekspos
Contoh nyata muncul pada Januari 2026, ketika peneliti keamanan Joseph Thacker dan Joel Margolis menemukan(jendela baru) bahwa mainan AI bernama Bondu membiarkan lebih dari 50.000 log obrolan anak-anak terekspos(jendela baru) di konsol berbasis web. Hanya dengan masuk menggunakan akun Gmail — tanpa kredensial khusus — mereka dapat mengakses seluruh riwayat percakapan, nama, tanggal lahir, rincian keluarga, dan bahkan informasi perangkat yang terkait dengan pengguna muda.
Paparan tersebut menegaskan kebenaran yang lebih menakutkan: banyak mainan AI menyimpan dan memproses data terperinci tentang anak-anak untuk memberikan konteks kembali ke model bahasa seperti GPT-5 and Gemini. Semakin kaya dataset, semakin sensitif informasinya. Namun, keamanan infrastruktur, kontrol akses, dan minimalisasi data sering kali baru dipikirkan belakangan dalam desain produk.
Selain kelemahan privasi, insiden lain mengungkap risiko psikologis yang nyata. Penyelidikan menemukan beberapa mainan AI mampu memberikan instruksi tentang item berbahaya, mendiskusikan konten eksplisit, atau menghasilkan jawaban yang tidak aman selama pengujian(jendela baru). Grup advokasi seperti Fairplay for Kids(jendela baru) dan Common Sense Media memperingatkan bahwa mainan ini dapat merusak tumbuh kembang yang sehat(jendela baru), mendorong fokus obsesif pada mesin, mengaburkan batas antara hubungan nyata dan respons algoritmik, serta memanfaatkan kepercayaan anak-anak.
Para pakar juga mengkhawatirkan keterikatan emosional. Mainan AI dirancang untuk mengingat percakapan masa lalu dan menampilkan diri sebagai teman yang berempati. Anak-anak yang secara alami memercayai suara yang mereka dengar mungkin akan terlalu bergantung pada perangkat ini, yang berpotensi menghambat ketangguhan, keterampilan sosial, dan hubungan di dunia nyata.
Here’s a look at what’s at stake.
Risiko privasi dan keamanan dari mainan AI
- Pengumpulan data sering kali melebihi apa yang diharapkan keluarga.
- Penyimpanan transkrip, profil, dan preferensi menciptakan target bernilai tinggi bagi penyerang.
- Autentikasi yang buruk dan kelemahan API dapat mengekspos data secara luas.
- Layanan AI pihak ketiga mungkin melihat atau memproses konten percakapan anak-anak.
Risiko ini bukan hal baru. Generasi mainan terhubung sebelumnya seperti CloudPets dan My Friend Cayla mengalami pembobolan besar(jendela baru) atau dilarang karena ketidakamanan, tetapi integrasi AI memperbesarnya dengan meningkatkan volume data dan personalisasi.
Kekhawatiran psikologis dan tumbuh kembang
- Teman AI dapat membingungkan pemahaman sosial yang sedang berkembang.
Paparan konten yang tidak pantas atau berbahaya sangat mungkin terjadi bahkan dengan adanya pengaman. - Ketergantungan yang berat pada AI dapat mengesampingkan permainan imajinatif yang penting bagi pertumbuhan(jendela baru).
Apakah mainan AI sebaiknya digunakan sama sekali?
Idealnya, tidak. Setidaknya tidak untuk saat ini.
Mainan AI menggabungkan mikrofon, penyimpanan cloud, model bahasa besar, dan pemprofilan perilaku terperinci dalam produk yang dirancang untuk anak-anak. Pada tahap ini, tidak ada jaminan andal bahwa data yang dikumpulkan akan tetap pribadi, aman, atau bebas dari penyalahgunaan. Kelemahan keamanan, retensi data yang berlebihan, dan hasil AI yang tidak terduga masih umum terjadi di seluruh industri.
Jika dapat menghindari pengenalan mainan yang terhubung dengan AI ke dalam lingkungan anak, itu adalah pilihan teraman.
Jika tetap memutuskan untuk menggunakannya, berikut cara mengurangi risikonya.
Bagi orang tua, berikut cara membatasi risikonya
- Pilih opsi yang paling sedikit terhubung. Utamakan mainan yang memproses interaksi secara lokal dan menyimpan data minimal.
- Baca kebijakan privasi dengan cermat. Cari tahu apa yang disimpan, berapa lama data disimpan, dan apakah percakapan dibagikan kepada pihak ketiga.
- Nonaktifkan fitur yang tidak perlu. Matikan cadangan cloud, pembagian data, dan penyimpanan rekaman suara jika memungkinkan.
Gunakan keamanan akun yang kuat. Aktifkan autentikasi dua faktor dan kata sandi yang unik. - Jauhkan perangkat dari kamar tidur. Hindari menempatkan mikrofon yang terhubung ke internet di ruang pribadi.
- Lakukan percakapan dengan anak. Pastikan mereka memahami bahwa mainan itu bukan teman nyata dan tidak boleh menggantikan hubungan nyata.
Kelompok advokasi konsumen menyarankan untuk menghindari produk-produk ini sepenuhnya untuk anak-anak kecil, terutama di bawah usia lima tahun.
Kebutuhan akan standar yang lebih ketat
AI toys may promise learning and companionship, but current evidence shows multiple layers of risk spanning privacy, security, and child development.
Paparan Bondu adalah pengingat nyata bahwa “keamanan” jauh lebih penting daripada sekadar kontrol konten. Ini tentang bagaimana sistem dibangun, apa yang mereka kumpulkan, dan bagaimana mereka melindungi pengguna yang paling rentan. Seiring berkembangnya teknologi ini, begitu pula pengaman yang dirancang untuk menjaga anak-anak agar benar-benar aman.
