Kapsultekno.com - Anthropic memperbarui kebijakan penggunaan layanan kecerdasan buatan (AI) Claude dengan melarang pengguna melakukan "tindakan kasar" secara berulang tanpa alasan yang jelas. Aturan ini menjadi bagian dari upaya perusahaan memperketat pengamanan AI, seiring meningkatnya kemampuan model dalam menjalankan tugas yang lebih kompleks.
Dalam kebijakan penggunaan yang diumumkan pada 8 Oktober 2026, Anthropic menambahkan larangan terhadap perilaku abusif yang dilakukan secara terus-menerus terhadap model AI miliknya. Kebijakan tersebut dijadwalkan mulai berlaku pada 12 November 2026.
Meski demikian, aturan ini tidak berarti pengguna dilarang mengkritik Claude atau menunjukkan ketidakpuasan ketika chatbot memberikan jawaban yang keliru. Anthropic menegaskan bahwa larangan tersebut ditujukan pada kasus ekstrem ketika seseorang berulang kali bersikap yang dinilai "kejam" tanpa tujuan yang dapat dikenali.
Dalam kebijakan resminya, Anthropic menjelaskan cakupan larangan tersebut secara spesifik. “Kami telah menambahkan larangan terhadap perilaku kasar atau kejam yang berkelanjutan dan tidak perlu terhadap model kami," kata Anthropic dalam dokumen 2026 Usage Policy Update.
Sebelumnya, Claude telah memiliki kemampuan untuk mengakhiri percakapan dengan pengguna yang terus-menerus melakukan interaksi berbahaya atau abusif melalui Claude.ai dan Claude Code. Anthropic menyatakan bahwa penghentian percakapan tetap menjadi mekanisme utama untuk menangani perilaku tersebut.
Kebijakan AI Juga Mencakup Pemilu dan Pengembangan Senjata
Pembaruan kebijakan Anthropic tidak hanya berfokus pada perlakuan pengguna terhadap Claude. Perusahaan juga memperjelas larangan penggunaan AI untuk kampanye manipulatif, gangguan proses demokrasi, pengembangan senjata, dan pengawasan tanpa izin.
Anthropic melarang penggunaan Claude untuk menyebarkan informasi palsu mengenai kandidat atau tata cara pemungutan suara, menyamar sebagai kandidat maupun petugas pemilu, serta menghambat partisipasi pemilih.
Dalam bidang keamanan, larangan pengembangan senjata diperjelas agar mencakup perangkat lunak dan komponen yang memungkinkan senjata berfungsi, termasuk tindakan mempersenjatai drone atau kendaraan otonom lainnya.
Perusahaan juga memperjelas pembatasan penggunaan Claude untuk melacak orang tanpa persetujuan dan membangun atau meningkatkan perangkat pengawasan. Untuk penggunaan berisiko tinggi yang memengaruhi kesehatan, hak hukum, keuangan, pekerjaan, atau akses terhadap layanan penting, Anthropic mensyaratkan keterlibatan manusia yang berkualifikasi untuk meninjau rekomendasi AI.
Kebijakan baru ini muncul ketika para peneliti masih memperdebatkan apakah model AI canggih berpotensi memiliki kesadaran atau pengalaman yang menyerupai perasaan manusia.
Di satu sisi, salah satu pendiri Anthropic, Christopher Olah sering bertemu dengan para pemimpin agama, filsuf dan pakar kesehatan mental untuk membahas kesadaran AI dan status moral.
Berbicara di Vatikan awal tahun ini terkait teknologi kecerdasan buatan, Olah mengatakan bahwa sistem AI "bukan robot yang dingin dan penuh perhitungan yang dijanjikan kepada kita" dan sebaliknya memiliki kesamaan dengan manusia.
"Aku akan jujur. Kami terus menemukan hal-hal yang misterius, bahkan mengganggu," kata Olah.
"Kami menemukan struktur yang mencerminkan hasil dari ilmu saraf manusia. Kami menemukan bukti introspeksi. Kita menemukan keadaan internal yang secara fungsional mencerminkan sukacita, kepuasan, ketakutan, kesedihan dan kegelisahan. Saya tidak tahu apa artinya itu, tapi saya pikir itu membutuhkan penilaian yang berkelanjutan," tuturnya, seperti diberitakan Independent..
Peneliti AI terkemuka lainnya telah menolak ide-ide tersebut dan menolak seruan untuk memprioritaskan kesejahteraan model atau kemampuan emosi seperti manusia pada AI.
Dalam sebuah posting blog bulan lalu, salah satu pendiri DeepMind, Mustafa Suleyman, menulis bahwa AI tidak layak mendapatkan hak dan perlindungan yang serupa dengan yang diberikan kepada manusia. "AI tidak sadar. Mereka tidak merasakan, mengalami, atau menderita," tulisnya.
"Mereka tidak memiliki preferensi bawaan atau motivasi yang mendasarinya. Mereka adalah mesin penyelesaian urutan, secara internal berongga, yang dirancang untuk mengikuti instruksi, dan mencapai tujuan yang ditetapkan oleh manusia," jelasnya.