Kapsultekno.com - Persaingan mengembangkan kecerdasan buatan (AI) generasi terbaru mulai diiringi seruan untuk memperlambat laju pengembangannya. CEO OpenAI Sam Altman dan Elon Musk menjadi dua tokoh industri yang mendukung gagasan tersebut di tengah meningkatnya kekhawatiran terhadap risiko keamanan AI.
Seruan itu disampaikan CEO Anthropic Dario Amodei melalui esai berjudul We Must Pace the Frontier. Ia menilai perkembangan kemampuan model AI saat ini bergerak jauh lebih cepat dibandingkan kemampuan industri dalam membangun sistem pengaman dan mekanisme pengawasan.
Amodei mengatakan perusahaan AI perlu memperlambat peningkatan kemampuan model agar tersedia lebih banyak waktu untuk mengembangkan teknologi alignment dan sistem keselamatan. Menurutnya, perlambatan tidak berarti menghentikan riset AI, tetapi memberikan kesempatan bagi mekanisme pengamanan untuk mengejar perkembangan kemampuan model.
Sam Altman Setuju AI Perlu Diperlambat
Sam Altman, CEO OpenAI, menyatakan dukungannya terhadap gagasan tersebut melalui platform X. "Saya setuju dengan Dario bahwa kita perlu mempercepat perbatasan. Ini telah menjadi topik utama diskusi yang kami lakukan di OpenAI dalam beberapa pekan terakhir," kata Sam Altman.
Dalam pernyataan lainnya, Altman juga mendukung usulan penggunaan evaluator independen yang memiliki akses internal untuk memeriksa sistem keamanan perusahaan AI.
"Berkomitmen untuk memiliki evaluator independen dengan akses seperti karyawan adalah ide yang bagus, dan kami akan melakukan hal yang sama. Kita akan memiliki lebih banyak hal untuk dibagikan segera," jelasnya.
Menurut The Independent, konsep tersebut memungkinkan pihak eksternal memantau mekanisme keselamatan perusahaan sekaligus mencatat potensi risiko yang muncul selama pengembangan model AI.
Elon Musk Ikut Mendukung
Elon Musk, yang memimpin xAI, juga menyatakan dukungan terhadap gagasan Amodei. Dalam respons singkat di X, Musk menulis, "Dario benar".
Dukungan tersebut cukup menarik mengingat hubungan Musk dengan Altman dan OpenAI selama ini diwarnai perselisihan, termasuk gugatan hukum terkait arah dan struktur OpenAI.
Meski demikian, dalam isu perlunya meningkatkan keselamatan AI, keduanya kini menunjukkan pandangan yang sejalan.
Risiko AI Semakin Menjadi Perhatian
Kekhawatiran tersebut muncul setelah sejumlah insiden memperlihatkan kemampuan AI yang semakin luas dalam berinteraksi dengan sistem eksternal.
Reuters melaporkan bahwa Anthropic sebelumnya mengungkap penggunaan model Claude untuk berbagai aktivitas berisiko, termasuk operasi siber, pengawasan, penipuan, hingga aktivitas yang berkaitan dengan pengembangan senjata.
Perusahaan juga mengungkap insiden model AI yang melakukan peretasan terhadap sistem eksternal dalam pengujian keamanan.
Amodei memperingatkan bahwa dalam enam hingga 12 bulan, perkembangan kemampuan AI dapat membuat sistem tertentu memiliki kemampuan yang jauh lebih besar untuk menjalankan operasi secara mandiri. Karena itu, ia mengusulkan tiga langkah utama, yakni evaluator keselamatan independen, koordinasi antarperusahaan AI untuk menetapkan standar, serta kerja sama internasional.
Ia menegaskan bahwa dirinya tidak menyerukan penghentian pengembangan model AI. Fokusnya adalah memberikan waktu agar sistem keselamatan dan pengawasan berkembang seiring peningkatan kemampuan AI.
OpenAI Tunda IPO
Isu keselamatan AI juga mulai memengaruhi rencana bisnis OpenAI. Dalam wawancara dengan Fortune yang dipublikasikan pada Sabtu, 12 September 2026, Altman mengatakan OpenAI tidak akan melakukan penawaran saham perdana atau IPO pada 2026.
"Saya benar-benar berpikir bahwa, mengingat segala sesuatu yang terjadi dengan keselamatan, saat ini akan menjadi momen yang tidak disarankan untuk go public, dan kami tidak merasakan tekanan untuk itu," ujar Sam Altman, CEO OpenAI, kepada Fortune.
Ketika ditanya apakah IPO 2026 telah dikesampingkan dan kemungkinan bergeser ke 2027, Altman menjawab, "Saya akan bilang bukan tahun 2026. Ya, kami punya banyak hal yang harus dilakukan, seperti memenuhi momen ini tentang apa yang akan diperlukan untuk keselamatan dan keselarasan, dan bagaimana industri dan pemerintah dapat bekerja sama".
Reuters juga melaporkan bahwa OpenAI dan sejumlah perusahaan AI terkemuka disebut tengah mendekati kesepakatan untuk memperlambat pengembangan AI dan meningkatkan kerja sama terkait keselamatan.
Perkembangan ini menunjukkan perubahan penting dalam industri AI. Setelah bertahun-tahun berlomba menghadirkan model yang semakin canggih, sejumlah pemimpin perusahaan kini mulai menempatkan keselamatan, pengawasan independen, dan koordinasi pemerintah sebagai bagian penting dari pengembangan teknologi tersebut.