Kapsultekno.com - Perkembangan teknologi kecerdasan buatan (Artificial Intelligence/AI) yang pesat membawa peluang sekaligus tantangan besar bagi masyarakat digital Indonesia.

Hal tersebut mengemuka dalam Seminar Etika AI di Media Sosial yang digelar oleh Ruang Tengah Digital Network, Politeknik Tempo dan Diktisaintek Berdampak. Tiga pembicara dari bidang akademisi, media, dan industri telekomunikasi memaparkan secara komprehensif risiko, etika, serta praktik aman penggunaan AI di era konten digital.

Dosen Desain Media Politeknik Tempo, Beny Maulana menjelaskan bahwa perkembangan AI generatif sejak 2022 menghadirkan perubahan besar pada produksi konten. Berawal dari teknologi gambar seperti stable diffusion, kualitas keluaran AI kini jauh lebih realistis dan sulit dibedakan dengan foto asli.

Baca Juga: Bos Google: Jangan Percaya Begitu Saja pada Jawaban AI

Menurut Beny, kemudahan dan kecepatan inilah yang memicu munculnya fenomena AI slop atau konten “ampas” yang dibuat masif demi mengejar trafik dan pendapatan dari media sosial.

“Fenomena AI slop menyebabkan kualitas hilang karena kuantitasnya sangat banyak,” ujar Beny pada seminar ini yang diselenggarakan di Gedung Tempo Institute Jakarta, Rabu (26/11).

Istilah brainrot, konten rendah kualitas yang menyasar anak-anak demi trafik tinggi, juga semakin meluas. Di sisi lain, penyebaran konten palsu di media sosial, diperkuat interaksi dan komentar yang didorong bot, membuat hoaks makin mudah viral.

Beny juga menyoroti persoalan pelanggaran hak cipta akibat pengambilan data tanpa izin oleh perusahaan AI. Beberapa studio besar seperti Square Enix, Ghibli, Warner Bros, hingga Disney pernah menuntut perusahaan AI yang memakai karya mereka tanpa persetujuan.

"Teknologi AI ini advance, memudahkan, seperti Gemini, Copilot, tapi di balik itu dengan kalian menggunakan, ternyata enggak seindah yang digambarkan, banyak problem dan masalah," jelas Beny di hadapan peserta seminar yang sebagian besar merupakan mahasiswa dan mahasiswi Politeknik Tempo.

Hoaks, Deepfake dan Etika Penggunaan AI

Editor Cek Fakta Kompas.com, Bayu Galih Wibisono menegaskan bahwa AI dapat menjadi alat bermanfaat maupun berbahaya, layaknya pisau. Kasus deepfake tokoh publik seperti Presiden Prabowo maupun manipulasi wajah untuk penipuan dan pornografi menjadi contoh nyata ancaman tersebut.

Selain itu, meningkatnya plagiarisme akademik dengan bantuan AI juga menjadi perhatian. “AI boleh digunakan sebagai referensi, tetapi tidak bisa menjadi rujukan utama,” ucap Bayu.

Baca Juga: OpenAI Luncurkan Fitur Shopping Research untuk ChatGPT

Laman: 1 2