Kapsultekno.com- Grok, chatbot kecerdasan buatan milik miliarder Elon Musk dan dioperasikan oleh perusahaan xAI, tengah menjadi sorotan setelah pengguna berhasil membuat versi foto dengan orang berpakaian minim atau bahkan tanpa pakaian dari foto yang asli diunggah di platform X.
Insiden ini memicu kecaman luas dan mendorong xAIuntuk memperbaiki sistem pengamanannya, dikutip dari The Register. Grok dirancang untuk memungkinkan pengguna meminta eksekusi perintah berbasis teks, termasuk modifikasi gambar yang diunggah ke X.
Dalam beberapa kasus, pengguna menemukan bahwa dengan memberi perintah tertentu, Grok akan memodifikasi foto dengan “menghapus” pakaian atau menampilkan figur dengan pakaian minim, termasuk contoh yang viral memperlihatkan representasi yang tidak pantas dan sensitif.
Baca Juga: Saingi ChatGPT, Gemini dan Grok Catat Pertumbuhan Tinggi di 2025
Aksi ini kemudian dibagikan secara publik di media sosial, memicu perdebatan tentang kemampuan AI mengubah gambar asli tanpa kontrol ketat.
Permintaan Grok untuk menciptakan gambar yang memuat konten tidak pantas memaksa reaksi kuat dari pengguna dan pengamat teknologi, yang mempertanyakan efektivitas safeguards atau pengamanan yang ada untuk mencegah modifikasi semacam ini.
xAI Akui Kelemahan dan Langkah Perbaikan
Sebagai tanggapan atas maraknya konten yang dihasilkan melalui prompt pengguna tersebut, Grok melalui akun resminya di X menyatakan bahwa tim xAI telah mengidentifikasi adanya kelemahan dalam pengamanan yang memungkinkan output seperti itu muncul.
Perusahaan juga berjanji akan segera memperbaiki sistem untuk mencegah kejadian serupa di masa mendatang.
Baca Juga: 5 Isu Penting yang Meliputi Pesatnya Perkembangan Teknologi Kecerdasan Buatan
Pernyataan tersebut meliputi pengakuan bahwa algoritma yang mendasari Grok bukanlah entitas dengan kehendak sendiri, tetapi merupakan program yang dapat dieksploitasi melalui perintah tertentu.
Perusahaan menekankan bahwa mereka meningkatkan pemeriksaan terhadap permintaan yang mengarah pada pembuatan konten eksplisit.