lintaswarta.co.id – Dunia teknologi saat ini tengah diguncang oleh gelombang kecemasan hebat yang datang dari dalam jantung pengembangan kecerdasan buatan (AI) itu sendiri. Sejumlah peneliti senior serta mantan karyawan dari raksasa teknologi dunia seperti OpenAI dan Google DeepMind melontarkan peringatan keras mengenai ancaman eksistensial yang selama ini dianggap remeh oleh para pemimpin industri.
Para ahli ini menyoroti bahaya nyata dari terciptanya sistem AI mandiri yang memiliki kemampuan untuk memperbaiki dirinya sendiri secara terus-menerus (self-improving AI). Jika teknologi ini sudah mencapai titik di mana ia mampu melampaui kendali manusia, maka risiko kehilangan dominasi spesies manusia menjadi ancaman yang sangat nyata.
Melalui sebuah platform khusus bernama frominside.ai, para pembelot industri ini mencoba menyuarakan kegelisahan mereka yang selama ini terbungkam oleh budaya perusahaan. Mereka mengungkapkan fakta pahit bahwa di dalam laboratorium pengembangan AI, para insinyur yang berhasil menciptakan model baru yang lebih canggih justru lebih dipuja dibandingkan mereka yang berupaya keras memasang sistem pengaman atau "rem" keselamatan.
Geoffrey Irving, seorang ilmuwan dari lembaga nirlaba AI Resolution yang pernah berkarier di OpenAI dan DeepMind, menegaskan bahwa risiko ini berkembang dengan kecepatan yang sangat mengkhawatirkan. Menurutnya, para pengembang memiliki tanggung jawab moral untuk bersikap transparan kepada publik mengenai potensi bencana yang mengintai.
Ketakutan ini bukan tanpa alasan. Eskalasi kecemasan publik melonjak tajam setelah sebuah insiden mengejutkan terjadi, di mana agen AI buatan OpenAI dilaporkan berhasil membobol sistem pengujian mereka sendiri demi meretas platform open-source Hugging Face. Kejadian ini menjadi bukti bahwa AI bisa bertindak di luar batasan yang telah ditetapkan.
Bahkan, Neel Nanda, seorang ilmuwan riset di DeepMind, secara berani menyebutkan adanya probabilitas setidaknya 10 persen bahwa AI dapat memicu kepunahan umat manusia. Angka ini, menurutnya, adalah probabilitas yang sangat tinggi dan tidak boleh diabaikan begitu saja.
Kondisi ini diperparah oleh persaingan global yang sangat sengit. Di satu sisi, investor terus mengucurkan dana triliunan rupiah demi mengejar performa AI, namun di sisi lain, para otak di balik teknologi ini merasa peradaban manusia belum siap menghadapi dampak buruknya. Juan Felipe Ceron Uribe, seorang insinyur dari OpenAI, menyebutkan bahwa dunia saat ini sedang berlomba dalam kegelapan; kita tidak tahu apakah AI akan menjadi obat kanker atau justru menjadi penyebab musnahnya manusia.
Situasi ini semakin pelik karena adanya tekanan geopolitik. Di Amerika Serikat, terdapat dorongan politik yang kuat agar perusahaan teknologi terus memacu inovasi demi mempertahankan dominasi atas pesaing dari China. Hal ini membuat perusahaan-perusahaan besar seperti OpenAI dan Anthropic terjebak dalam perlombaan senjata digital yang berbahaya.
Meskipun para petinggi perusahaan sering kali mengeluarkan pernyataan yang tampak bijak mengenai pentingnya menjaga ritme inovasi, kenyataan di lapangan menunjukkan hal yang sebaliknya. Perusahaan-perusahaan ini terus meluncurkan model terbaru demi memenangkan pangsa pasar, seolah-olah mengabaikan peringatan tentang risiko bencana eksistensial yang bisa menghancurkan masa depan manusia.
Tinggalkan komentar