Kapsultekno.com - CEO sekaligus salah satu pendiri Anthropic, Dario Amodei, memperingatkan bahwa perkembangan kecerdasan buatan (AI) kini bergerak secara eksponensial dan membutuhkan pengamanan yang mampu mengimbanginya.
Dalam wawancara dengan CBS News, Amodei mengatakan percepatan kemampuan AI telah mencapai tahap yang sebelumnya tidak sepenuhnya ia bayangkan. Menurutnya, perkembangan tersebut bukan alasan untuk menghentikan seluruh pengembangan AI, tetapi menjadi tanda bahwa industri perlu mulai memperlambat laju pengembangan dan memperkuat sistem keselamatan.
“Saya tidak akan berbohong kepada Anda, ada bahaya nyata. Dan menurut saya, sudah terlalu lama industri ini membohongi masyarakat mengenai fakta bahwa teknologi ini memiliki risiko," kata Dario.
Pernyataan tersebut disampaikan Dario kepada Jo Ling Kent, Senior Business and Technology Correspondent CBS News. Ia menilai industri teknologi terlalu lama mengecilkan risiko yang dapat muncul dari perkembangan AI.
Perkembangan AI Disebut Semakin Eksponensial
Dario Amodei menggambarkan perkembangan AI seperti deret “satu, dua, empat, delapan, 16, 32”. Menurutnya, teknologi tersebut kini mulai memasuki bagian kurva yang semakin curam.
“Ini tidak berarti kita perlu panik hari ini. Ini tidak berarti kita perlu menghentikan semuanya. Namun, menurut saya, ini adalah tanda peringatan. Ini adalah tanda peringatan bahwa kita perlu melambat," terangnya.
Ia menegaskan bahwa yang dibutuhkan bukan penghentian pengembangan AI, melainkan memastikan setiap generasi model baru menjalani pengujian keselamatan yang memadai sebelum dirilis.
Amodei juga memperingatkan sejumlah risiko, termasuk penyalahgunaan AI untuk serangan siber, bioterorisme, gangguan ekonomi serius hingga kemungkinan manusia kehilangan kendali terhadap sistem AI yang semakin otonom.
Anthropic Usulkan Evaluator Independen
Untuk mengurangi risiko tersebut, Anthropic berkomitmen memberikan akses permanen kepada evaluator independen dengan akses yang menyerupai karyawan perusahaan.
Evaluator tersebut bertugas memeriksa apakah perusahaan AI benar-benar menjalankan standar keselamatan yang telah dijanjikan. Amodei menyamakan mekanisme tersebut dengan petugas pemeriksa keamanan makanan yang bekerja secara independen.
Selain evaluasi pihak ketiga, Amodei mengusulkan perusahaan AI di negara demokratis menyusun standar keselamatan bersama, termasuk batasan terhadap laju perkembangan AI yang tidak terkendali.
Ia juga mendorong adanya koordinasi antara pemerintah, termasuk dengan negara yang memiliki sistem pemerintahan berbeda, meski mengakui proses tersebut akan sulit dilakukan.
Perang AI AS-China Jadi Tantangan Besar
Salah satu persoalan paling rumit adalah persaingan teknologi antara Amerika Serikat dan China. Amodei menyebut kemungkinan memperlambat pengembangan AI sementara negara lain terus bergerak maju sebagai “Dilema tersulit”.
Ia mengibaratkan koordinasi internasional di bidang AI dengan perjanjian pengendalian senjata nuklir antara Amerika Serikat dan Uni Soviet pada masa lalu. Namun, Amodei mengakui insentif ekonomi dan militer untuk menjadi pemimpin AI sangat besar sehingga kesepakatan global tidak mudah dicapai.
Ia juga mendukung regulasi pemerintah. Menurutnya, industri tidak cukup hanya mengandalkan komitmen sukarela perusahaan karena keputusan mengenai keamanan dan kecepatan peluncuran produk AI pada akhirnya membutuhkan keterlibatan pemerintah.
Peringatan Amodei mendapat respons dari sejumlah tokoh industri teknologi. CEO OpenAI Sam Altman menyatakan bahwa evaluasi independen dengan akses seperti karyawan merupakan gagasan yang baik dan OpenAI juga akan menerapkannya.
Sementara itu, Elon Musk seperti diberitakan sebelumnya juga turut membagikan unggahan Amodei dan memberikan respons singkat bahwa “Dario benar”. Meski demikian, Amodei tidak menyarankan AI dilarang sepenuhnya.
Ia menilai teknologi tersebut memiliki potensi besar untuk memberikan manfaat, termasuk membantu menghasilkan terobosan medis. Menurutnya, tantangan utama saat ini adalah memastikan manfaat tersebut dapat diperoleh tanpa mengabaikan risiko yang semakin besar seiring meningkatnya kemampuan AI.
“Jika kita membangun dengan cara yang tepat, menurut saya kemungkinan terjadinya hal buruk sangatlah kecil. Jika kita membangun dengan cara yang salah, kemungkinan terjadinya hal buruk sangatlah tinggi," pungkasnya.