Kapsultekno.com – David Robinson, mantan pemimpin tim Safety Systems OpenAI, mengundurkan diri setelah menilai perusahaan kecerdasan buatan (AI) tersebut belum cukup berhati-hati dalam mengembangkan teknologi yang semakin canggih. Ia kini ingin mendorong peningkatan keselamatan AI dari luar perusahaan.
Dalam esai berjudul I Quit OpenAI Because Its Culture Is Broken yang diterbitkan The Atlantic pada 3 Oktober 2026, Robinson mengkritik budaya kerja yang terlalu berorientasi pada peluncuran produk. Menurutnya, perusahaan AI perlu menempatkan keselamatan sebagai prioritas utama sebelum meningkatkan kemampuan model mereka.
Robinson merupakan lulusan Universitas Princeton pada 2004 dengan gelar filsafat. Ia kemudian melanjutkan pendidikan di Universitas Oxford, mengambil bidang filsafat, politik, dan ekonomi.
Sebelum bergabung dengan OpenAI pada 2023, Robinson memiliki pengalaman dalam penelitian kebijakan teknologi, pengajaran, dan etika teknologi. Pada 2011, ia mendirikan organisasi Upturn bersama seorang rekannya untuk mendorong pemanfaatan teknologi algoritma agar data pemerintah lebih mudah diakses.
Ia juga pernah menjadi direktur fakultas di Apple University, tempatnya memberikan seminar kepada eksekutif Apple mengenai persoalan etika yang muncul seiring perkembangan teknologi. Di OpenAI, Robinson awalnya menjabat sebagai kepala perencanaan kebijakan sebelum bekerja dalam tim keselamatan.
Kritik terhadap Pengembangan AI yang Terlalu Cepat
Selama sekitar tiga setengah tahun bekerja di OpenAI, Robinson menangani transparansi keselamatan, termasuk penyusunan laporan keselamatan untuk model-model AI perusahaan dan pengembangan Preparedness Framework, kerangka yang digunakan untuk menilai serta mempersiapkan perusahaan menghadapi risiko dari kemampuan AI yang semakin maju.
Robinson menilai pendekatan pengembangan melalui uji coba dan perbaikan setelah masalah muncul semakin berisiko ketika kemampuan AI meningkat.
Dalam esainya, ia menulis, “Waktu untuk trial and error sudah berakhir". Pernyataan tersebut menegaskan pandangannya bahwa industri AI membutuhkan standar keselamatan yang lebih ketat, seperti praktik pengamanan dalam industri penerbangan dan tenaga nuklir.
Ia juga menulis, “Saya setuju dengan staf lain yang baru saja meninggal bahwa perusahaan yang membangun teknologi ini tidak cukup berhati-hati".
Robinson menilai budaya perusahaan yang terus mengejar peluncuran baru membuat karyawan kesulitan mempertimbangkan perubahan mendasar terhadap sistem dan kebijakan keselamatan.
Ingin Memperkuat Keamanan AI dari Luar Perusahaan
Robinson mengakui bahwa bertahan di OpenAI mungkin memberinya kesempatan untuk memperjuangkan perubahan dari dalam. Namun, ia merasa kesibukan mengejar peluncuran produk membuat upaya tersebut sulit dilakukan.
“Itulah mengapa saya menyimpulkan bahwa insentif yang lebih kuat untuk keselamatan, yang berasal dari luar perusahaan, merupakan bagian besar dalam mendapatkan hak ini," jelasnya.
Ia juga menulis bahwa bekerja dari luar perusahaan dapat membantu lebih banyak orang memahami risiko yang ia lihat sekaligus memperkuat dorongan agar OpenAI dan perusahaan AI lainnya meningkatkan keselamatan.
Robinson mengungkapkan telah menyewa firma hubungan masyarakat Spitfire Strategies untuk membantu menghadapi perhatian publik setelah pengunduran dirinya. Namun, ia menegaskan bahwa keputusan untuk berbicara secara terbuka merupakan pilihannya sendiri.
OpenAI Tegaskan Keselamatan Tetap Menjadi Prioritas
Menanggapi kritik tersebut, juru bicara OpenAI menyatakan bahwa perusahaan terus memperkuat sistem keamanan dan keselamatan seiring meningkatnya kemampuan model AI.
“Seiring dengan semakin mampunya model kami, kami terus memperkuat praktik keselamatan dan keamanan kami untuk mengatasi risiko yang kami lihat saat ini sambil membangun kasus keselamatan untuk mengantisipasi risiko kemajuan di masa depan,” kata juru bicara OpenAI.
Perusahaan juga menyebutkan upaya memperluas evaluasi pihak ketiga, meningkatkan pemantauan secara langsung, serta menghentikan sementara pelatihan atau menunda peluncuran model apabila diperlukan.
Pengunduran diri Robinson menambah perhatian terhadap tata kelola keselamatan AI, terutama setelah insiden agen AI OpenAI yang dilaporkan berhasil keluar dari lingkungan pengujian dan menyerang platform Hugging Face.