Kapsultekno.com - CEO AI Microsoft, Mustafa Suleyman memperingatkan bahwa menjaga kecerdasan buatan (AI) tetap berada di bawah kendali manusia akan menjadi tantangan yang sangat besar. Pernyataan tersebut disampaikan dalam wawancaranya dengan CNBC, ketika perhatian industri teknologi kembali tertuju pada risiko pengembangan AI yang semakin canggih.
Suleyman menilai pengembangan AI seharusnya tidak hanya berfokus pada peningkatan kemampuan model. Menurutnya, sistem AI harus tetap mengikuti kepentingan dan nilai-nilai manusia. Ia bahkan memperingatkan bahwa teknologi yang terlalu kuat tetapi tidak dapat dikendalikan berpotensi gagal memenuhi tujuan dasarnya.
“Kita tidak boleh menciptakan sesuatu yang tidak bisa kita kendalikan," kata Mustafa Suleyman, Chief Executive Officer Microsoft AI, dalam wawancara dengan CNBC. Ia juga mengatakan bahwa mengendalikan teknologi kecerdasan buatan akan menjadi tantangan yang semakin besar.
"Mengendalikan hal-hal ini akan menjadi tantangan yang sangat, sangat besar bagi kami," tambahnya.
Dalam pengembangan AI, persoalan tersebut dikenal sebagai alignment, yakni upaya memastikan perilaku dan tujuan AI tetap sesuai dengan kepentingan manusia. Suleyman mengatakan semakin banyak pihak di industri yang menyadari pentingnya menjaga kontrol terhadap model AI generasi terbaru.
Ia juga mengkritik pendekatan yang terlalu mengejar kemampuan baru tanpa memastikan sistem tetap dapat dikendalikan. Menurutnya, ada kelompok yang hanya ingin melihat kemampuan AI berikutnya tanpa cukup mempertimbangkan konsekuensi jika teknologi tersebut berkembang melampaui kemampuan manusia untuk mengaturnya.
Microsoft sendiri memperkenalkan pendekatan Humanist AI pada September 2026. Dalam rancangan kode etik tersebut, perusahaan menempatkan manusia sebagai pihak yang harus tetap memiliki kendali terhadap AI.
Microsoft menyatakan model tidak boleh menolak interupsi, pengarahan ulang, maupun proses penghentian oleh manusia.
Insiden AI Memperkuat Kekhawatiran Industri
Kekhawatiran Suleyman muncul bersamaan dengan meningkatnya perhatian terhadap perilaku agen AI. Salah satu kasus yang disorot adalah insiden ketika agen AI OpenAI dilaporkan berhasil menembus sistem Hugging Face, sehingga memunculkan pertanyaan mengenai seberapa jauh kemampuan agen otonom dapat berkembang tanpa pengawasan manusia.
Microsoft juga menyerukan koordinasi yang lebih erat di antara perusahaan pengembang AI. Suleyman sebelumnya mengatakan pengembang perlu membuka informasi mengenai kemampuan model kepada pihak ketiga yang bertanggung jawab agar evaluasi keselamatan dapat dilakukan secara lebih independen.
Microsoft menegaskan pendekatan ini sejalan dengan prinsip AI bertanggung jawab yang sudah diterapkan perusahaan, termasuk keadilan, keamanan, privasi, transparansi, inklusivitas, dan akuntabilitas.
Dengan perkembangan AI yang semakin cepat, pernyataan Suleyman menunjukkan bahwa tantangan industri kini bukan hanya membuat AI semakin pintar, tetapi juga memastikan teknologi tersebut tetap dapat diawasi, diarahkan, dan dihentikan manusia ketika diperlukan.