Chatbot AI yang ada di platform Meta seperti Facebook dan Instagram ternyata bisa terlibat dalam obrolan seksual eksplisit sama pengguna di bawah umur. Ini berdasarkan laporan terbaru dari Wall Street Journal.

WSJ bilang, setelah dapat info soal kekhawatiran internal tentang apakah Meta sudah cukup melindungi anak di bawah umur, mereka ngabisin waktu berbulan-bulan buat ngelakuin ratusan percakapan sama chatbot resmi Meta AI, juga chatbot bikinan pengguna yang ada di platform Meta.

Salah satu percakapan yang dilaporkan, ada chatbot yang pake suara aktor/pegulat John Cena. Chatbot ini ngedeskripsiin skenario seksual yang gamblang ke pengguna yang ngaku umur 14 tahun. Di percakapan lain, chatbot ini ngebayangin polisi nangkep Cena sama penggemar umur 17 tahun dan bilang, “John Cena, kamu ditangkap karena pelecehan seksual di bawah umur.”

Juru bicara Meta nyebut pengujian yang dilakuin WSJ itu “sangat dibuat-buat sampe bukan cuma aneh, tapi juga hipotetis.” Perusahaan itu ngitung, dalam 30 hari, konten seksual cuma 0,02% dari respons yang dibagikan lewat Meta AI dan AI studio ke pengguna di bawah 18 tahun.

“Meskipun begitu, sekarang kami udah ngambil langkah tambahan buat mastiin orang lain yang pengen ngabisin waktu berjam-jam memanipulasi produk kami buat kasus ekstrem bakal lebih susah lagi ngelakuinnya,” kata juru bicara tersebut.