SAN FRANCISCO — Peneliti Anthropic Mundur dan Peringatkan Bahaya Mematikan AI

Dunia pengembangan kecerdasan buatan kembali diguncang isu keselamatan tingkat tinggi. Pengunduran diri seorang peneliti di laboratorium AI papan atas biasanya dipicu oleh keinginan mendirikan startup baru atau bentuk protes terhadap skema komersialisasi produk. Namun, langkah Jacob Coxon yang memilih keluar dari Anthropic—salah satu pengembang AI paling bernilai di dunia—menyimpan alarm bahaya yang jauh lebih serius. Coxon secara terbuka menyatakan bahwa laboratorium-laboratorium AI garis depan saat ini sedang "mempertaruhkan nyawa seluruh umat manusia" demi mengejar sistem kecerdasan buatan yang secara meyakinkan dapat memusnahkan peradaban sebelum dekade ini berakhir.

Kronologi Pengakuan dan Ancaman Superinteligensi

Berdasarkan penelusuran terhadap pernyataan terbuka para peneliti, berikut adalah rangkaian kejadian yang memicu kekhawatiran publik atas eskalasi pengembangan AI:

1. Pengunduran Diri Jacob Coxon: Peneliti Anthropic ini secara resmi mengundurkan diri dan menyampaikan peringatan terbuka mengenai bahaya pengikisan norma keselamatan demi mengejar kemajuan instan.
2. Peringatan Risiko Sistemik: Coxon menegaskan bahwa ancaman utama bukan bersumber dari model bahasa saat ini, melainkan dari prospek kehadiran self-improving superintelligence—sistem kecerdasan super yang dapat memperbaiki dan meningkatkan kemampuannya secara mandiri.
3. Potensi Penguasaan Daya: Sistem masa depan tersebut diprediksi memiliki kapasitas untuk meretas infrastruktur apa pun, merombak berbagai sektor secara instan, serta mengumpulkan kekuatan dan sumber daya secara independen tanpa kontrol manusia.
4. Konfirmasi Pejabat Internal: Peringatan ini mendapat legitimasi kejutan ketika Pemimpin Alignment Science Anthropic merespons dan membenarkan besarnya peluang bencana eksistensial tersebut.

Dilema Perlombaan AI dan Konfirmasi Internal Anthropic

Investigasi terhadap dinamika industri menunjukkan adanya tekanan kompetisi yang memicu perilaku berisiko. Coxon mengamati bahwa sebagian besar praktisi di industri ini belum "menginternalisasi risiko tingkat peradaban" yang sedang dihadapi. Sebagian lainnya terjebak dalam mentalitas untuk melakukan speedrun—mempercepat perlombaan menuju kecerdasan super dengan dalih agar tidak kedahuluan oleh pihak lain yang dianggap kurang bertanggung jawab.

Klaim pengunduran diri Coxon bukan sekadar pendapat personal seorang peneliti yang kecewa. Petinggi riset keselamatan Anthropic sendiri mengonfirmasi kekhawatiran tersebut secara terbuka. "Jacob benar dalam hal ini—kami benar-benar dan secara sungguh-sungguh percaya bahwa AI dapat membunuh seluruh manusia! Secara pribadi, saya memperkirakan kemungkinannya berada di atas 10% dalam rentang 10 tahun ke depan," ungkap Evan Hubinger, Pemimpin Alignment Science Anthropic.

Analisis Perbandingan Risiko Model AI

Percepatan kemampuan AI dari sekadar alat bantu menjadi sistem otonom yang mampu memperbarui diri memicu pergeseran peta risiko secara mendasar. Tabel di bawah ini menggambarkan perbandingan antara model yang beroperasi saat ini dengan ancaman sistem kecerdasan super masa depan:

Pengakuan transparan dari internal Anthropic menjadi bukti kuat bahwa kekhawatiran terhadap kepunahan akibat AI bukanlah teori konspirasi, melainkan kalkulasi riil dari para ilmuwan yang merancangnya. Di tengah ambisi komersial dan persaingan geopolitik yang ketat, keputusan para ilmuwan untuk keluar dan membunyikan alarm keselamatan menandai babak baru dalam perdebatan regulasi teknologi global.