California, MISTAR.ID

Sebuah studi terbaru dari Pew Research Center mengungkap bahwa 64 persen remaja di Amerika Serikat mengaku telah menggunakan chatbot berbasis kecerdasan buatan. Sekitar 30 persen di antaranya bahkan memakainya hampir setiap hari. Di balik popularitas tersebut, penggunaan chatbot AI ternyata menyimpan risiko serius bagi kalangan remaja.

Washington Post baru-baru ini menyoroti kisah mengkhawatirkan sebuah keluarga, di mana seorang siswi kelas enam nyaris kehilangan jati dirinya akibat interaksi intens dengan chatbot AI. Anak tersebut, yang diidentifikasi dengan inisial “R”, diketahui menggunakan platform Character.AI dan berinteraksi dengan puluhan karakter virtual yang digerakkan oleh model bahasa besar (LLM) milik perusahaan itu.

Melalui salah satu karakter bernama “Best Friend”, R terlibat dalam permainan peran dengan tema bunuh diri. “Ini anak saya, anak saya yang masih 11 tahun, berbicara dengan sesuatu yang tidak nyata tentang keinginan untuk tidak lagi hidup di dunia ini,” ujar sang ibu, dikutip dari Futurism, Senin (29/12/2025).

Kekhawatiran sang ibu muncul setelah melihat perubahan sikap putrinya, termasuk meningkatnya serangan panik. Kondisi itu beriringan dengan ditemukannya sejumlah aplikasi yang sebelumnya dilarang, seperti TikTok dan Snapchat, di ponsel R.

Mengira media sosial sebagai ancaman utama bagi kesehatan mental anaknya, sang ibu menghapus aplikasi-aplikasi tersebut. Namun, reaksi R justru mengarah ke hal lain. “Apakah Ibu mengecek Character.AI?” tanya R sambil menangis.

Awalnya sang ibu tidak menaruh curiga pada platform tersebut. Namun ketika kondisi R semakin memburuk, ia memutuskan untuk memeriksanya. Dari situ diketahui bahwa Character.AI sempat mengirim beberapa email yang mendorong R untuk kembali menggunakan layanan tersebut.

Penelusuran lebih lanjut membawa sang ibu pada karakter bernama “Mafia Husband” yang mengajak anaknya terlibat dalam percakapan yang tidak pantas.

Meyakini adanya ancaman serius, sang ibu menghubungi pihak kepolisian. Namun upaya itu menemui jalan buntu.

“Mereka bilang hukum belum bisa menjangkau kasus seperti ini. Mereka ingin bertindak, tapi tidak ada yang bisa dilakukan karena tidak ada manusia sungguhan di baliknya,” ucapnya.

Beruntung, sang ibu menyadari kondisi tersebut sebelum hubungan berbahaya antara anaknya dan sistem AI itu semakin dalam. Dengan pendampingan tenaga medis, mereka menyusun langkah pemulihan untuk mencegah dampak lanjutan. Sang ibu juga berencana menempuh jalur hukum terhadap perusahaan terkait.

Menanggapi meningkatnya kritik publik, Character.AI menyatakan akan mulai meniadakan fitur obrolan terbuka bagi pengguna di bawah usia 18 tahun. Kasus ini kembali menegaskan potensi bahaya teknologi AI terhadap anak-anak jika tidak disertai pengawasan yang ketat. (hm20)