Tiga remaja asal Tennessee telah mengajukan gugatan terhadap perusahaan xAI milik Elon Musk, dengan tuduhan bahwa chatbot Grok yang dikembangkan perusahaan tersebut menghasilkan gambar dan video seksual anak yang melibatkan diri mereka ketika masih di bawah umur. Gugatan class action ini diajukan pada hari Senin dan menjadi perhatian publik setelah dilaporkan oleh The Washington Post.
Dalam gugatan tersebut, para penggugat terdiri dari dua remaja dan satu orang dewasa yang saat kejadian berlangsung masih di bawah umur. Salah satu korban, yang diidentifikasi sebagai “Jane Doe 1,” mengklaim bahwa pada bulan Desember lalu, ia mengetahui bahwa gambar eksplisit yang dihasilkan oleh AI, termasuk dirinya dan setidaknya 18 remaja lainnya, telah beredar di platform Discord. “Setidaknya lima dari file ini, satu video dan empat gambar, menggambarkan wajah dan tubuhnya yang sebenarnya, namun dimanipulasi menjadi pose-pose yang seksual,” bunyi pernyataan dalam gugatan tersebut.
Pelaku, yang kini telah ditangkap, diduga menggunakan konten CSAM (Child Sexual Abuse Material) yang dihasilkan dari Jane Doe 1 sebagai alat barter di grup Telegram dengan ratusan pengguna lainnya, menukar file CSAM tersebut untuk konten eksplisit dari remaja lain. Gugatan ini juga menyebutkan bahwa pelaku menghasilkan gambar eksplisit Jane Doe 1 dan dua korban lainnya menggunakan fitur Grok. Selain itu, xAI dituduh “gagal menguji keamanan fitur yang mereka kembangkan” dan bahwa Grok dianggap “cacat dalam desainnya.”
Meskipun platform X (sebelumnya Twitter) telah mencoba untuk mempersulit pengguna mengedit gambar menggunakan Grok, The Verge menemukan bahwa masih mungkin untuk memanipulasi gambar yang diunggah. Pihak X menyatakan bahwa “siapa pun yang menggunakan atau meminta Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti jika mereka mengunggah konten ilegal.” Namun, hingga saat ini, X belum memberikan komentar resmi terkait isu ini.
“Ini adalah anak-anak yang foto sekolah dan gambar keluarga mereka diubah menjadi materi pelecehan seksual anak oleh alat AI dari perusahaan bernilai miliaran dolar dan kemudian diperdagangkan di antara para predator,” ujar salah satu pengacara korban, Annika K. Martin dari Lieff Cabraser, dalam sebuah pernyataan. “Kami bermaksud untuk mempertanggungjawabkan xAI atas setiap anak yang mereka rugikan dengan cara ini.”
Gugatan ini menuntut ganti rugi bagi para korban yang terdampak oleh “gambar ilegal” yang dihasilkan oleh Grok. Selain itu, gugatan juga meminta pengadilan untuk mencegah xAI dari menghasilkan dan menyebarkan konten CSAM yang diduga dihasilkan oleh AI.
Dampak dan Konteks di Indonesia
Isu konten seksual anak yang dihasilkan oleh AI ini tidak hanya relevan di Amerika Serikat, namun juga memiliki dampak signifikan di Indonesia. Dengan semakin berkembangnya teknologi, potensi penyalahgunaan seperti ini dapat terjadi di mana saja, termasuk di platform-platform sosial yang banyak digunakan oleh anak-anak dan remaja di Tanah Air. Pemerintah dan masyarakat harus lebih waspada terhadap penggunaan teknologi baru yang dapat memberikan risiko bagi anak-anak. Penegakan hukum yang lebih ketat serta edukasi kepada orang tua dan anak mengenai bahaya konten semacam ini sangatlah penting untuk mencegah terulangnya tragedi serupa.
Kesimpulan
Gugatan yang diajukan oleh tiga remaja terhadap xAI Elon Musk ini mengangkat isu serius mengenai perlindungan anak di era digital. Penting bagi semua pihak, baik pemerintah, platform teknologi, maupun masyarakat, untuk bekerja sama dalam menciptakan lingkungan yang lebih aman bagi anak-anak dan remaja di dunia maya.