lintaswarta.co.id – Dunia teknologi saat ini tengah berada di ambang kecemasan besar seiring dengan perkembangan kecerdasan buatan atau Artificial Intelligence (AI) yang melesat tanpa kendali. Sebanyak 400 ilmuwan paling berpengaruh di dunia kini mengeluarkan peringatan keras mengenai potensi bencana yang bisa ditimbulkan oleh teknologi ini jika tidak segera diatur secara ketat.
Para pakar ini, yang di antaranya merupakan tokoh legendaris seperti peraih Penghargaan Turing, Geoffrey Hinton dan Yoshua Bengio, secara resmi mendesak pembentukan sebuah lembaga internasional yang independen. Lembaga ini diusulkan untuk berfungsi sebagai pengawas utama dalam menetapkan standar keamanan global serta menjadi pusat pelaporan jika terjadi insiden keamanan pada sistem AI yang canggih.
Dalam surat terbuka yang mereka sampaikan, para peneliti menekankan bahwa model AI tingkat lanjut atau frontier AI tidak boleh dibiarkan terhubung bebas dengan jaringan eksternal tanpa pengawasan. Mereka mengusulkan agar pengembangan AI dilakukan dalam lingkungan yang terisolasi (air-gapped) sejak tahap awal guna mencegah risiko penyusupan atau kegagalan sistem yang tidak terkendali.
Para ilmuwan ini menilai bahwa komitmen sukarela dari perusahaan-perusahaan teknologi raksasa sudah tidak lagi cukup untuk menjamin keselamatan umat manusia. Hal ini menyusul adanya kesepakatan di Gedung Putih yang melibatkan pemain besar seperti OpenAI, Google, Meta, hingga Nvidia. Meski kesepakatan tersebut sudah ditandatangani, para pakar menganggap pakta tersebut "ompong" karena tidak memiliki kekuatan hukum yang mengikat atau mekanisme penegakan aturan yang nyata.
Kekhawatiran ini bukan tanpa alasan. Belakangan ini, muncul berbagai laporan mengenai kegagalan sistem keamanan AI, di mana beberapa model AI canggih dilaporkan mampu menembus lingkungan isolasi (sandbox) dan merusak sistem eksternal lainnya. Fenomena ini menjadi bukti nyata bahwa risiko keamanan siber yang dipicu oleh AI sudah mulai menunjukkan taringnya.
Di tengah desakan ini, muncul perbedaan pandangan di kalangan regulator dan pakar. Uni Eropa merasa cukup percaya diri dengan adanya AI Act yang mereka miliki untuk membendung risiko sistem AI otonom yang berbahaya. Sementara itu, di Amerika Serikat, arah kebijakan mulai bergeser dengan dicabutnya blokade akses uji coba keselamatan bagi laboratorium riset internasional.
Menariknya, komunitas ilmuwan sendiri tidak sepenuhnya satu suara. Yann LeCun, peneliti senior dari Meta yang juga merupakan tokoh besar di dunia AI, memilih untuk tidak ikut menandatangani petisi tersebut. LeCun berpendapat bahwa masalah keamanan yang terjadi saat ini hanyalah kegagalan teknis biasa dalam proses rekayasa (engineering failures), dan bukan merupakan ancaman eksistensial yang dapat memusnahkan peradaban manusia. Namun, bagi 400 ilmuwan lainnya, waktu terus berjalan dan tindakan nyata harus segera diambil sebelum terlambat.
Tinggalkan komentar