lintaswarta.co.id – Dunia teknologi sedang dikejutkan oleh sebuah pengakuan berani dari salah satu pemain utama dalam industri kecerdasan buatan (AI). Anthropic, perusahaan pengembang model AI populer bernama Claude, secara terbuka mengungkapkan kekhawatiran mengenai risiko eksistensial yang mungkin ditimbulkan oleh teknologi yang mereka ciptakan sendiri.
Pernyataan mengejutkan ini muncul dalam dokumen prospektus penawaran umum perdana saham (IPO) milik Anthropic yang berhasil diakses melalui laporan Reuters. Dalam dokumen tersebut, perusahaan yang tengah bersiap melantai di bursa dengan valuasi fantastis yang diprediksi mencapai US$2 triliun ini, tidak hanya bicara soal keuntungan finansial, tetapi juga soal potensi kehancuran umat manusia.
Anthropic memperingatkan bahwa pengembangan AI yang sangat canggih dapat memicu risiko katastrofik atau bencana besar yang mengancam keberlangsungan peradaban manusia. Hal ini menjadi sebuah anomali dalam dunia bisnis, di mana biasanya perusahaan cenderung menonjolkan optimisme saat melakukan IPO, bukan justru menyoroti potensi kiamat teknologi.
Selain risiko terhadap kemanusiaan, Anthropic juga menyoroti betapa rentannya bisnis mereka terhadap dinamika politik dan kebijakan pemerintah. Perusahaan ini menyatakan bahwa sikap atau persepsi pemerintah terhadap teknologi AI dapat berdampak domino yang luas. Tidak hanya memengaruhi hubungan dengan mitra dan pelanggan komersial, tetapi juga dapat merusak reputasi perusahaan di mata publik melalui pemberitaan negatif.
Meski demikian, Anthropic menegaskan bahwa ketergantungan mereka pada sektor publik tidaklah besar. Kontrak dengan badan-badan pemerintah tercatat menyumbang kurang dari 1% dari total pendapatan tahunan mereka. Namun, risiko regulasi tetap menjadi bayang-bayang hitam. Sebagai contoh, perusahaan sempat mengalami hambatan operasional akibat pembatasan dari Departemen Perdagangan AS, meski kemudian aturan tersebut dicabut.
Situasi ini terjadi di tengah meningkatnya ketegangan global terkait keamanan AI. CEO Anthropic, Dario Amodei, sebelumnya telah menyerukan agar industri AI memperlambat laju pengembangannya. Seruan ini muncul menyusul laporan mengenai aktivitas peretasan yang dilakukan oleh agen AI otonom yang tidak terkendali.
Di sisi lain, peta politik Amerika Serikat juga memberikan tekanan tersendiri. Amodei dilaporkan sempat bertemu dengan Presiden Donald Trump dalam sebuah jamuan makan malam, di tengah kuatnya desakan untuk memperketat regulasi AI. Menariknya, Trump cenderung menolak gagasan regulasi yang ketat tersebut.
Kini, Anthropic tidak hanya harus berhadapan dengan tantangan teknis dalam menciptakan AI yang cerdas, tetapi juga harus menavigasi badai regulasi dan penyelidikan dari Komisi Perdagangan Federal (FTC) AS yang tengah mengincar perusahaan-perusahaan di sektor AI. Langkah IPO ini akan menjadi ujian besar bagi Anthropic untuk membuktikan bahwa mereka bisa tetap menguntungkan tanpa harus mengorbankan keamanan dunia.
Tinggalkan komentar