Kapsultekno.com - Perkembangan teknologi kecerdasan buatan (Artificial Intelligence) yang pesat membawa peluang sekaligus tantangan besar bagi masyarakat digital Indonesia. Di balik canggihnya teknologi kecerdasan buatan atau AI, ternyata teknologi ini dapat disalahgunakan oleh orang lain untuk menciptakan konten AI Slop.
Fenomena AI Slop diangkat dalam Seminar Etika AI di Media Sosial yang digelar oleh Ruang Tengah Digital Network, Politeknik Tempo dan Diktisaintek Berdampak. Tiga pembicara dari bidang akademisi, media, dan industri telekomunikasi memaparkan secara komprehensif risiko, etika, serta praktik aman penggunaan AI di era konten digital.
Dosen Desain Media Politeknik Tempo, Beny Maulana menjelaskan bahwa perkembangan AI generatif sejak 2022 menghadirkan perubahan besar pada produksi konten. Berawal dari teknologi gambar seperti stable diffusion, kualitas keluaran AI kini jauh lebih realistis dan sulit dibedakan dengan foto asli.
Baca Juga: Bos Google: Jangan Percaya Begitu Saja pada Jawaban AI
Menurut Beny, kemudahan dan kecepatan inilah yang memicu munculnya fenomena AI slop atau konten “ampas” yang dibuat masif demi mengejar trafik dan pendapatan dari media sosial.
“Fenomena AI slop menyebabkan kualitas hilang karena kuantitasnya sangat banyak,” ujar Beny pada seminar ini yang diselenggarakan di Gedung Tempo Institute Jakarta, Rabu (26/11).
Istilah brainrot, konten rendah kualitas yang menyasar anak-anak demi trafik tinggi, juga semakin meluas. Di sisi lain, penyebaran konten palsu di media sosial, diperkuat interaksi dan komentar yang didorong bot, membuat hoaks makin mudah viral.
Beny juga menyoroti persoalan pelanggaran hak cipta akibat pengambilan data tanpa izin oleh perusahaan AI. Beberapa studio besar seperti Square Enix, Ghibli, Warner Bros, hingga Disney pernah menuntut perusahaan AI yang memakai karya mereka tanpa persetujuan.
"Teknologi AI ini advance, memudahkan, seperti Gemini, Copilot, tapi di balik itu dengan kalian menggunakan, ternyata enggak seindah yang digambarkan, banyak problem dan masalah," jelas Beny di hadapan peserta seminar yang sebagian besar merupakan mahasiswa dan mahasiswi Politeknik Tempo.
Hoaks, Deepfake dan Etika Penggunaan AI
Editor Cek Fakta Kompas.com, Bayu Galih Wibisono menegaskan bahwa AI dapat menjadi alat bermanfaat maupun berbahaya, layaknya pisau. Kasus deepfake tokoh publik seperti Presiden Prabowo maupun manipulasi wajah untuk penipuan dan pornografi menjadi contoh nyata ancaman tersebut.
Selain itu, meningkatnya plagiarisme akademik dengan bantuan AI juga menjadi perhatian. “AI boleh digunakan sebagai referensi, tetapi tidak bisa menjadi rujukan utama,” ucap Bayu.
Baca Juga: OpenAI Luncurkan Fitur Shopping Research untuk ChatGPT
Dalam paparannya, Bayu mengangkat 10 Poin Etika AI UNESCO, meliputi prinsip keamanan, transparansi, akuntabilitas, perlindungan data, keberlanjutan, hingga non-diskriminasi. Namun ia menegaskan bahwa di Indonesia belum ada UU khusus tentang AI, regulasi yang digunakan masih bergantung pada UU ITE dan KUHP.
Untuk memeriksa hoaks atau konten yang diduga buatan AI, Bayu menyarankan penggunaan beberapa alat pengecekan seperti Hive Moderation dan tools lain, disertai verifikasi sumber asli agar analisis lebih akurat.
Panduan Etika AI dari Perspektif Industri
Dari sisi industri telekomunikasi, Gamma Aditya, Manager SIMPATI Telco Product Growth and Innovation Telkomsel menyampaikan bahwa AI telah hadir dalam berbagai layanan publik, mulai dari Google Maps, e-commerce, hingga layanan pelanggan Telkomsel seperti Veronika.
Gamma mengingatkan bahwa teknologi AI tetap memiliki dampak negatif, seperti penipuan suara, manipulasi informasi, hingga risiko terhadap privasi pengguna.
Oleh karena itu, masyarakat perlu memegang prinsip etika seperti selalu memverifikasi informasi, menggunakan AI untuk hal yang baik, menjaga dan tidak menyebarkan data pribadi hingga mengutamakan transparansi dan tanggung jawab.
“AI ini ada dan kita harus hidup damai bersama AI. Tapi jangan sampai AI mengurangi jiwa kritis kita,” tegas Gamma.