Kapsultekno.com - WhatsApp mulai menguji fitur keamanan baru bernama Scam Alert berbasis teknologi kecerdasan buatan (AI) yang dirancang untuk membantu pengguna mengenali pesan berpotensi penipuan sebelum mereka terlanjur berinteraksi dengan pelaku.

Fitur ini memanfaatkan model machine learning yang berjalan langsung di perangkat pengguna. Pendekatan tersebut memungkinkan WhatsApp menganalisis pola percakapan mencurigakan tanpa harus mengirim isi pesan ke server untuk proses klasifikasi.

Untuk tahap awal, Scam Alert masih digulirkan secara terbatas dalam versi beta. WhatsApp mengatakan pengujian dilakukan bersama komunitas bug bounty dan peneliti keamanan sebelum fitur tersebut tersedia lebih luas.

Cara kerja Scam Alert cukup berbeda dari sistem deteksi yang bergantung pada pemrosesan di server. Setelah pengguna mengaktifkannya, model machine learning akan diunduh ke perangkat dan digunakan untuk menganalisis pesan masuk dari orang yang belum tersimpan sebagai kontak.

Model tersebut mempelajari pola yang ditemukan dalam percakapan penipuan yang sebelumnya dilaporkan pengguna kepada WhatsApp. Analisis kemudian dilakukan berdasarkan struktur percakapan serta berbagai sinyal linguistik untuk memperkirakan apakah sebuah pesan memiliki karakteristik penipuan.

Jika sistem menilai sebuah pesan kemungkinan merupakan upaya penipuan, WhatsApp akan menampilkan peringatan di dalam chat. Peringatan tersebut hanya dapat dilihat oleh penerima dan tidak ditampilkan kepada pengirim pesan.

Pengguna kemudian memiliki beberapa pilihan, termasuk memblokir pengirim, melaporkan percakapan, atau tetap melanjutkan komunikasi. Jika peringatan ternyata keliru, pengguna juga dapat menandai percakapan sebagai terpercaya sehingga Scam Alert tidak lagi memberikan peringatan untuk chat tersebut.

Privasi Chat Tetap Jadi Fokus Utama

Salah satu bagian penting dari Scam Alert adalah cara WhatsApp mempertahankan enkripsi end-to-end. Meta menegaskan bahwa isi pesan tidak dikirim keluar dari perangkat untuk proses klasifikasi.

Dalam penjelasan resminya, Meta menyatakan, "tidak ada konten pesan yang meninggalkan perangkat untuk klasifikasi atau dilaporkan secara otomatis ke WhatsApp, Meta, atau siapa pun".

Artinya, model melakukan proses klasifikasi secara lokal di perangkat. WhatsApp juga tidak secara otomatis mengirim laporan ketika sistem mendeteksi pesan yang dianggap mencurigakan.

Meta juga menegaskan bahwa Scam Alert bersifat opsional. Pengguna memiliki kendali untuk mengaktifkan maupun menonaktifkan fitur tersebut kapan saja.

Jika pengguna menandai sebuah percakapan sebagai tepercaya, WhatsApp memberikan opsi tambahan untuk membagikan lima pesan terakhir yang diterima. Data tersebut dapat digunakan untuk membantu meningkatkan akurasi fitur, tetapi proses berbagi tetap membutuhkan persetujuan pengguna.

WhatsApp Siapkan Sistem Transparansi untuk Model AI

WhatsApp tidak hanya menjalankan model AI secara lokal, tetapi juga menyiapkan sejumlah mekanisme untuk membuat sistem tersebut dapat diaudit dan diverifikasi.

Setiap versi model AI yang digunakan akan dicatat sebelum diterapkan, sementara bobot model rencananya dibuka agar peneliti keamanan independen dapat memeriksa cara kerja dan memastikan model tersebut benar-benar dirancang untuk mendeteksi penipuan.

Untuk mengukur efektivitas fitur, WhatsApp juga mengumpulkan metrik agregat seperti jumlah peringatan dan kategori tindakan pengguna. Data tersebut diproses menggunakan sistem confidential computing dan differential privacy sehingga WhatsApp hanya mendapatkan statistik agregat, bukan isi percakapan atau identitas pengguna tertentu.

Pendekatan ini menjadi penting karena WhatsApp ingin meningkatkan kemampuan deteksi penipuan tanpa mengubah prinsip privasi yang menjadi bagian utama layanan.

Langkah tersebut hadir ketika modus penipuan digital semakin berkembang, mulai dari penyamaran identitas, manipulasi sosial, hingga penggunaan umpan yang dibuat dengan bantuan AI.

WhatsApp sendiri memiliki lebih dari 3 miliar pengguna secara global sehingga platform tersebut menjadi salah satu sasaran penting bagi pelaku penipuan digital.

Sebelumnya, Meta juga telah menambahkan perlindungan lain di WhatsApp, termasuk peringatan ketika pengguna menerima permintaan mencurigakan untuk menautkan perangkat. Upaya tersebut menjadi bagian dari strategi Meta untuk menghadang penipuan sejak tahap awal.

Masih Tahap Beta, Belum Tersedia untuk Semua Pengguna

Untuk saat ini, Scam Alert belum menjadi fitur yang tersedia secara luas bagi seluruh pengguna WhatsApp. Meta masih menjalankan peluncuran terbatas dalam versi beta sambil menguji akurasi model dan aspek keamanannya.

Pengujian tersebut juga memungkinkan peneliti keamanan mencari kelemahan pada implementasi sebelum fitur diperluas. Meta mengatakan pihaknya akan terus bekerja dengan komunitas Bug Bounty dan peneliti keamanan untuk melakukan stress test terhadap sistem.

Jika nantinya dirilis secara lebih luas, Scam Alert dapat menjadi lapisan perlindungan tambahan bagi pengguna WhatsApp, terutama ketika menerima pesan dari nomor tidak dikenal yang meminta uang, data pribadi, kode verifikasi, atau mengarahkan pengguna ke tindakan tertentu.

Meski begitu, fitur berbasis AI tetap bukan jaminan bahwa seluruh penipuan akan terdeteksi. Pengguna tetap perlu berhati-hati, terutama terhadap pesan yang mendesak untuk segera melakukan pembayaran, membagikan informasi sensitif, atau membuka tautan yang tidak jelas sumbernya.