Kapsultekno.com - Pemerintah Kota San Francisco menyurati raksasa teknologi Apple dan Google terkait dugaan membiarkan munculnya aplikasi berbasis kecerdasan buatan (AI) yang melayani pembuatan deepfake pornografi di toko aplikasi resmi mereka.
Dua perusahaan teknologi tersebut dituding mengambil untung, memonetisasi aplikasi AI yang bermasalah, yang digunakan untuk menciptakan gambar telanjang palsu (AI nudify). Otoritas menilai aplikasi tersebut telah memfasilitasi penyebaran konten eksplisit tanpa persetujuan korban dan menghasilkan keuntungan besar bagi pengembang maupun platform distribusinya, seperti diberitakan WIRED.
Jika situasi tersebut tidak dihentikan, San Francisco mengancam akan mengambil langkah hukum apabila kedua perusahaan tidak segera menyetop distribusi. Langkah ini diumumkan oleh City Attorney San Francisco, David Chiu.
Pihaknya mengirimkan surat cease-and-desist kepada Apple dan Google. Dalam surat itu, keduanya diminta menghapus sedikitnya 13 aplikasi berbasis AI yang dapat menghasilkan gambar intim palsu (non-consensual intimate deepfakes) serta menghentikan hubungan bisnis dengan para pengembangnya.
Menurut Chiu, teknologi tersebut telah berkembang menjadi sarana pelecehan digital yang banyak menyasar perempuan dan anak di bawah umur. Ia juga menilai Apple dan Google memperoleh keuntungan melalui biaya transaksi (in-app purchase) maupun distribusi aplikasi tersebut di toko aplikasi masing-masing.
"Memproduksi gambar intim tanpa persetujuan adalah ilegal, berbahaya, dan sama sekali tidak dapat diterima," kata David Chiu, City Attorney San Francisco, mengutip WIRED.
Ia menambahkan bahwa Apple dan Google diduga telah memperoleh jutaan dolar AS dari biaya layanan aplikasi-aplikasi tersebut, sehingga menurutnya kedua perusahaan harus memperketat proses moderasi agar aplikasi serupa tidak lagi muncul di App Store maupun Google Play.
Dalam surat peringatannya, Chiu memberikan waktu 28 hari bagi Apple dan Google untuk menjelaskan langkah konkret yang akan diambil guna mematuhi tuntutan tersebut. Jika tidak, Pemerintah Kota San Francisco membuka kemungkinan menempuh jalur hukum berdasarkan undang-undang California yang memperluas tanggung jawab pihak yang memfasilitasi layanan deepfake intim tanpa persetujuan korban.
Pelanggaran dapat dikenai sanksi perdata sedikitnya 25.000 dolar AS untuk setiap pelanggaran, menurut San Francisco Chronicle. Selain meminta penghapusan aplikasi, San Francisco juga mendesak kedua perusahaan memutus layanan pemrosesan pembayaran terhadap pengembang aplikasi yang menjual layanan pembuatan deepfake ilegal serta melakukan audit berkala terhadap toko aplikasi agar aplikasi serupa tidak kembali bermunculan.
Aplikasi Sudah Diunduh Ratusan Juta Kali
Investigasi yang dilakukan Technology Transparency Project (TTP) menemukan masih banyak aplikasi AI pembuat gambar telanjang yang tersedia di toko aplikasi, meskipun sebelumnya telah dilaporkan melanggar kebijakan platform.
Data investigasi menunjukkan aplikasi-aplikasi tersebut telah diunduh lebih dari 705 juta kali dan menghasilkan pendapatan sekitar 117 juta dolar AS. Temuan itu menjadi salah satu dasar San Francisco menilai penegakan aturan oleh Apple maupun Google masih bersifat reaktif dan belum cukup efektif.
Google menyatakan telah mengambil berbagai langkah untuk menekan penyebaran aplikasi semacam itu. Perusahaan mengaku telah menghapus ratusan aplikasi yang melanggar kebijakan Google Play serta membatasi pencarian dengan kata kunci seperti "nudify".
Juru bicara Google, Dan Jackson, mengatakan Google Play tidak mengizinkan aplikasi yang mengandung konten seksual dan perusahaan terus melakukan langkah proaktif untuk mendeteksi serta menghapus aplikasi berbahaya.
“Google Play tidak mengizinkan aplikasi yang mengandung konten seksual, dan kami terus mengambil langkah proaktif untuk mendeteksi dan menghapus aplikasi dengan konten berbahaya,” kata Jackson dalam sebuah pernyataan.
“Ketika pelanggaran dilaporkan kepada kami, kami menyelidiki dan mengambil tindakan cepat, yang dalam kasus aplikasi ini termasuk menangguhkan ratusan aplikasi yang melanggar dan membatasi istilah pencarian terkait seperti 'nudify' di toko kami," tambah Jackson.
Sementara itu, Apple belum memberikan tanggapan resmi terkait surat peringatan yang dikirimkan Pemerintah Kota San Francisco. Kasus ini diperkirakan menjadi salah satu ujian terbesar bagi regulasi baru California terkait tanggung jawab platform digital dalam mencegah penyebaran konten deepfake berbasis AI.
Seiring semakin mudahnya teknologi AI generatif diakses publik, pemerintah daerah maupun regulator mulai meningkatkan pengawasan terhadap perusahaan teknologi yang dianggap memperoleh keuntungan dari penyalahgunaan teknologi tersebut.