Kapsultekno.com - Perusahaan kecerdasan buatan milik Elon Musk, xAI, menghadapi gugatan hukum baru setelah teknologi AI miliknya diduga digunakan untuk membuat materi eksploitasi seksual anak atau child sexual abuse materials (CSAM) berbasis AI dari foto nyata tiga remaja perempuan.
Gugatan tersebut diajukan oleh para korban yang menyatakan gambar hasil manipulasi AI itu beredar di internet dan menimbulkan dampak psikologis serta reputasi yang serius.
Menurut laporan Ars Technica, gugatan tersebut menyoroti penggunaan chatbot AI Grok milik xAI yang diduga memungkinkan pembuatan gambar eksplisit berbasis AI menggunakan foto asli korban. Para penggugat menyatakan bahwa teknologi tersebut gagal memiliki pengamanan yang memadai untuk mencegah penyalahgunaan.
Dugaan Manipulasi Foto Nyata dengan AI
Dalam dokumen gugatan, tiga korban anonim dari Tennessee, dua di antaranya masih di bawah umur mengklaim bahwa foto mereka dari media sosial digunakan untuk membuat gambar eksplisit berbasis AI. Gambar tersebut kemudian beredar di platform seperti Discord dan Telegram.
Baca Juga: Tanggapan Netizen Usai Grok AI Bisa Diakses Kembali di Indonesia
Salah satu korban pertama kali mengetahui keberadaan gambar tersebut setelah menerima pesan anonim di Instagram yang memperingatkan bahwa foto dirinya telah dimanipulasi menggunakan AI. Investigasi kemudian mengarah pada seorang tersangka yang diduga menyimpan gambar-gambar tersebut yang dihasilkan dengan teknologi Grok.
Dokumen gugatan bahkan menyebutkan detail konten yang dihasilkan AI tersebut, termasuk klaim bahwa gambar memperlihatkan korban tanpa busana dan dalam situasi eksplisit.
Tuduhan Kelalaian dan Kurangnya Pengamanan AI
Para penggugat menuduh xAI lalai karena merilis teknologi yang dapat digunakan untuk membuat konten eksploitasi seksual tanpa kontrol yang cukup. Gugatan tersebut juga menyebut bahwa perusahaan memperoleh keuntungan dari lisensi teknologi AI yang digunakan pihak ketiga untuk menghasilkan gambar tersebut.
Pengacara korban menilai sistem AI tersebut “cacat dalam desain” karena memungkinkan pembuatan konten ilegal secara relatif mudah. Mereka juga menuduh perusahaan lebih memprioritaskan monetisasi teknologi daripada perlindungan pengguna dan korban potensial.
Baca Juga: Grok Sengaja Munculkan Pornografi AI Demi Tarik Minat Jutaan Pengguna?
Kasus ini menjadi salah satu gugatan pertama yang diajukan oleh korban remaja terhadap xAI terkait pembuatan konten eksploitasi seksual berbasis AI. Para penggugat meminta kompensasi finansial serta perintah pengadilan agar perusahaan mencegah pembuatan konten serupa di masa depan.