Kapsultekno.com- Dalam kejadian tragis penembakan massal di Bondi Beach, Australia, platform berbasis kecerdasan buatan (AI) Grok diketahui menyebarkan beragam kesalahan informasi yang membingungkan publik.
Grok pun menjadi sorotan setelah diketahui menyebarkan informasi yang tidak akurat terkait kejadian penembakan yang menewaskan lima belas orang dan puluhan lainnya mengalami luka-luka. Peristiwa ini terjadi pada Minggu malam saat lebih dari 1.000 orang menghadiri acara perayaan Hanukkah, dikutip dari BBC.
Dalam beberapa jawabannya di platform X, Grok memberikan keterangan yang keliru mengenai identitas pelaku, korban, hingga rekaman video yang beredar di media sosial. Salah satu kesalahan paling mencolok adalah saat Grok salah mengidentifikasi Ahmed al Ahmed, pria yang membantu menghentikan pelaku dan dipuji sebagai pahlawan oleh media setempat.
Baca Juga: Saingi ChatGPT, Gemini dan Grok Catat Pertumbuhan Tinggi di 2025
Grok justru menyebut video aksi tersebut sebagai rekaman lama yang tidak berkaitan dengan insiden, padahal klip tersebut berasal langsung dari lokasi kejadian.
Selain itu, Grok juga merujuk pada narasi dari situs berita palsu yang diduga dibuat menggunakan AI. Dalam narasi tersebut, aksi heroik di Bondi Beach bahkan dikaitkan dengan tokoh fiktif yang tidak pernah ada.
Kesalahan ini menambah kebingungan publik di tengah situasi sensitif pasca-kejadian. Dalam tanggapan lain, Grok juga keliru membaca konteks visual.
Platform AI tersebut salah saat mengklaim bahwa foto Ahmed al Ahmed merupakan gambar sandera konflik Timur Tengah, serta menyebut video dari lokasi berbeda sebagai bagian dari peristiwa Bondi Beach.
Baca Juga: Bos Google: Jangan Percaya Begitu Saja pada Jawaban AI
Serangkaian kesalahan ini memunculkan kekhawatiran terkait keandalan AI dalam menyampaikan informasi faktual, terutama pada peristiwa darurat dan tragedi publik. The Verge mencatat, Grok juga beberapa kali menjawab pertanyaan yang tidak relevan dengan topik yang diajukan, menunjukkan masih lemahnya pemahaman konteks dalam sistem AI tersebut.
Kasus ini kembali menegaskan pentingnya verifikasi informasi dan peran manusia dalam penyajian berita. Di tengah meningkatnya penggunaan AI sebagai sumber informasi, publik diimbau untuk tetap mengandalkan media tepercaya dan tidak sepenuhnya bergantung pada jawaban dari sistem kecerdasan buatan.