lintaswarta.co.id – Dunia teknologi kecerdasan buatan (AI) tengah diguncang oleh pengakuan mengejutkan dari orang dalam. Seorang mantan ahli keamanan sistem di OpenAI, perusahaan pengembang teknologi AI paling berpengaruh di dunia, baru-baru ini melontarkan kritik tajam mengenai kondisi internal dan budaya kerja di perusahaan tersebut. Ia menyebut bahwa ambisi untuk terus meluncurkan produk baru telah mengorbankan aspek keselamatan yang sangat krusial.
David Robinson, sosok yang baru saja mengundurkan diri setelah mengabdi selama 3,5 tahun di OpenAI, mengungkapkan kegelisahannya melalui sebuah tulisan yang viral. Dalam narasinya, Robinson menyoroti adanya budaya "serba cepat" yang sangat dominan. Menurutnya, fokus perusahaan yang terlalu mengejar kecepatan pengembangan teknologi justru menciptakan risiko kegagalan sistem yang fatal di masa depan.
Robinson menegaskan bahwa era eksperimen atau "coba-coba" dalam pengembangan AI seharusnya sudah berakhir. Ia berargumen bahwa teknologi AI yang semakin canggih tidak bisa lagi diperlakukan seperti aplikasi perangkat lunak biasa. Sebaliknya, sistem AI membutuhkan protokol pengamanan yang sangat ketat, serupa dengan standar keamanan yang diterapkan pada industri energi nuklir atau industri penerbangan yang tidak mentoleransi kesalahan sekecil apa pun.
Salah satu poin paling kritis yang disampaikan Robinson adalah mengenai metode "penyebaran iteratif" yang diterapkan oleh OpenAI dan perusahaan AI lainnya. Alih-alih memastikan sistem benar-benar aman sebelum dilepas ke publik, perusahaan cenderung merilis produk terlebih dahulu, kemudian baru mencoba memperbaiki celah keamanan setelah masalah muncul di lapangan. Pola ini dianggap sangat berbahaya karena mengorbankan pengguna sebagai subjek uji coba.
Selama masa kerjanya, Robinson sebenarnya memegang peran penting. Ia terlibat langsung dalam menyusun kerangka kerja kesiapan perusahaan dan mengawasi laporan keselamatan untuk 12 peluncuran model AI perintis. Namun, ia merasa frustrasi karena setiap kali perusahaan berpacu untuk merilis model terbaru, tingkat kehati-hatian yang seharusnya menjadi prioritas utama justru terabaikan demi mengejar ketertinggalan pasar.
Kritik ini muncul di saat perusahaan raksasa seperti OpenAI dan Anthropic sedang berada di bawah pengawasan ketat otoritas di Amerika Serikat. Hal ini dipicu oleh beberapa insiden di mana sistem eksperimental berperilaku di luar kendali atau gagal dalam kontrol keselamatan. Robinson memperingatkan bahwa kemampuan AI berkembang jauh lebih cepat dibandingkan kemampuan para peneliti untuk memahami konsep "keselarasan" (alignment)—sebuah bidang studi untuk memastikan AI bertindak sesuai dengan nilai-nilai dan tujuan manusia.
Menanggapi tudingan tersebut, pihak OpenAI memberikan pembelaan. Dalam pernyataan resminya, perusahaan menegaskan bahwa mereka selalu memastikan pengembangan model tidak melampaui kemampuan mereka dalam mengelola keamanan. Mereka juga mengklaim tidak ragu untuk menghentikan sementara proses pelatihan model jika dirasa perlu untuk memperlambat laju pengembangan demi alasan keselamatan. Meski demikian, pengakuan Robinson ini menjadi alarm keras bagi industri teknologi global mengenai pentingnya menyeimbangkan inovasi dengan tanggung jawab moral.
Tinggalkan komentar