Kapsultekno.com – Presiden Amerika Serikat Donald Trump bersama sejumlah pimpinan perusahaan teknologi dan pengembang kecerdasan buatan (AI) menandatangani kesepakatan sukarela untuk memperkuat pengawasan terhadap pengembangan AI.
Kesepakatan yang diumumkan pada 29 September 2026 tersebut dikenal sebagai White House Accord on Super Intelligence. Sejumlah perusahaan yang terlibat antara lain OpenAI, Anthropic, Google, Meta, Nvidia, dan xAI. Kesepakatan ini muncul ketika kekhawatiran terhadap keamanan AI semakin meningkat, termasuk setelah muncul laporan mengenai agen AI yang melakukan tindakan tidak diinginkan terhadap sistem komputer.
Dalam kesepakatan tersebut, perusahaan berkomitmen menerapkan “robust internal controls” untuk memantau keamanan dan kinerja sistem AI mereka. Perusahaan juga diminta membentuk tim internal yang bertanggung jawab memastikan mekanisme pengendalian, pemantauan, dan deteksi berjalan sebagaimana mestinya.
Selain pengawasan internal, perusahaan akan bekerja sama dengan auditor atau evaluator independen dari luar. Hasil evaluasi tersebut kemudian ditinjau oleh komite independen di dalam jajaran dewan direksi masing-masing perusahaan. Langkah ini dirancang agar pengawasan tidak hanya bergantung pada tim yang mengembangkan teknologi AI.
Kesepakatan juga menyebut perusahaan akan berupaya memastikan teknologi AI tidak melakukan tindakan seperti meretas atau mengakses sistem teknis dengan cara yang tidak dimaksudkan.
Trump Sebut Kesepakatan Bersifat “Morally Binding”
Trump menggambarkan kesepakatan tersebut sebagai bentuk perlindungan terhadap perkembangan AI. "Saya pikir saya melihat pengawasan diri yang luar biasa. Dan mereka mengerti bahwa mereka harus melakukan polisi diri," kata Trump kepada wartawan selama konferensi pers di luar West Wing, seperti diberitakan Apnews.
Trump juga menyebut kesepakatan itu hampir seperti sebuah konstitusi, meskipun implementasinya tidak memiliki kekuatan hukum yang sama dengan regulasi pemerintah.
Belum Menjadi Regulasi yang Mengikat Secara Hukum
Hal penting dari kesepakatan ini adalah sifatnya sukarela dan tidak memiliki mekanisme hukuman hukum bagi perusahaan yang gagal memenuhi komitmen. Perusahaan juga tetap memiliki keleluasaan dalam menentukan bagaimana sistem pengamanan tersebut diterapkan.
Namun, dokumen kesepakatan membuka kemungkinan agar langkah-langkah tersebut nantinya dituangkan ke dalam undang-undang atau regulasi. Artinya, komitmen industri saat ini dapat menjadi salah satu dasar pembahasan aturan AI yang lebih formal di masa mendatang.
Kesepakatan tersebut hadir di tengah perdebatan mengenai seberapa jauh pemerintah perlu mengatur perkembangan AI. Di satu sisi, perusahaan teknologi terus mengembangkan model AI yang semakin canggih.
Di sisi lain, sejumlah peneliti dan mantan pekerja perusahaan AI menyuarakan kekhawatiran bahwa perkembangan teknologi berlangsung lebih cepat dibandingkan mekanisme keselamatannya.
CEO Meta, Mark Zuckerberg mengatakan dalam postingan di X bahwa ini merupakan langkah positif terkait komitmen terhadap keamanan AI.
Sementara itu, CEO Nvidia Jensen Huang menyatakan, "Tidak ada konflik antara inovasi, teknologi, dan keselamatan. Kita harus menciptakan teknologi baru untuk memajukan kemampuan AI, tetapi kita juga menciptakan teknologi baru untuk memajukan keamanan AI".
Pernyataan tersebut disampaikan Jensen, mengutip transkrip percakapan sebagaimana diungkap oleh ceointerviews.ai. Sedangkan Sam Altman, CEO OpenAI mengatakan bahwa pihaknya membangun teknologi kecerdasan buatan untuk memberi manfaat bagi semua orang.
"Kami pikir itu bisa mengangkat semua orang. Kita melihat kebangkitan seluruh usaha kecil, penemuan ilmiah benar-benar mulai terjadi, pengembangan obat, benar-benar mampu meningkatkan kehidupan semua orang. Dan kami berpikir bahwa kesepakatan ini dan di bawah kepemimpinan Presiden Trump, semua orang berkumpul untuk menyepakati bagaimana bergerak maju dengan aman, saya pikir itu sangat penting karena kami melakukan ini untuk memberi manfaat bagi orang-orang di dunia," terang Sam Altman.
CEO Anthropic, Dario Amodei turut bicara di hadapan wartawan, seperti diungkap dalam unggahan video YouTube USA Today. "Tapi saya pikir teknologi ini memiliki risiko yang sangat nyata dan, Anda tahu, mekanismenya, cara kita mengatasi risiko tersebut, masih dalam pembahasan. Tapi kita semua perlu bekerja, kita semua perlu bekerja sama untuk memastikan bahwa kita bisa menang dan kita bisa menang dengan aman. Jika kita melakukan ini dengan benar, jika kita bekerja dengan presiden dan semua orang di sini, kita bisa menang dengan aman," tuturnya.