Anthropic — Peneliti Peringatkan Risiko AI Musnahkan Manusia dalam Satu Dekade

Di balik megahnya kantor-kantor teknologi Silicon Valley dan kilauan narasi masa depan yang serba otomatis, sebuah kegelisahan kelam sedang menggerogoti pikiran para penciptanya sendiri. Bukan lagi sekadar fiksi ilmiah, peringatan mendalam kini keluar langsung dari mulut para ahli yang merancang sistem kecerdasan buatan (AI). Sebuah pengakuan mengejutkan yang mengguncang industri teknologi mengungkapkan bahwa potensi AI untuk mengakhiri peradaban manusia bukan lagi dianggap angka nol, melainkan ancaman nyata yang diyakini secara sungguh-sungguh oleh para peneliti terkemuka.

Taruhan Nyawa di Balik Perlombaan Algoritma

Pemicu utama dari gelombang kecemasan publik ini bermula ketika seorang peneliti di Anthropic—salah satu laboratorium AI terdepan di dunia—membuat unggahan yang mengonfirmasi perkiraan menakutkan: terdapat peluang lebih dari 10 persen bahwa AI dapat memusnahkan seluruh umat manusia dalam kurun waktu satu dekade ke depan. Pernyataan ini muncul hanya beberapa jam setelah keputusasaan seorang pengembang AI menjadi viral di media sosial. Pengembang tersebut memilih mengundurkan diri secara mendadak sebagai bentuk protes atas arah pengembangan industri saat ini.

"Perusahaan-perusahaan AI saat ini sedang berjudi dengan nyawa kita demi memenangkan perlombaan teknologi,"

Langkah pengunduran diri yang dramatis ini menyingkap tabir persaingan sengit yang dinilai kian tidak terkontrol antara raksasa teknologi. Dalam upaya menjadi yang pertama mencapai Kecerdasan Buatan Umum (AGI), standar keselamatan mendasar disinyalir sering kali terabaikan demi kecepatan rilis produk. Ada ketakutan mendalam bahwa industri sedang menciptakan sesuatu yang tidak lagi bisa dikendalikan, sebuah ilusi kemajuan yang berpotensi berujung pada bencana global.

Angka 'P-Doom' dan Ancaman Eksistensial Dekade Ini

Dalam komunitas keselamatan AI, estimasi peluang kehancuran akibat AI dikenal dengan istilah p-doom (probability of doom). Angka **10 persen** mungkin terlihat kecil bagi masyarakat awam, namun dalam kalkulasi risiko bencana eksistensial global, tingkat probabilitas tersebut sangatlah masif dan mengerikan. Sebagai pembanding, risiko seseorang meninggal akibat bencana alam ekstrem jauh di bawah angka tersebut.

Berikut adalah gambaran analisis perbandingan persepsi risiko teknologis yang kini menjadi perdebatan hangat di kalangan peneliti internal:

Mengapa Para Pengembang Utama Ketakutan?

Investigasi terhadap dinamika internal laboratorium AI menunjukkan bahwa ketakutan para ahli berakar pada masalah alignment—bagaimana memastikan tujuan sistem AI yang sangat cerdas tetap sejalan dengan nilai dan keberlangsungan hidup manusia. Ketika model sistem kecerdasan buatan menjadi semakin kompleks, para ilmuwan sendiri tidak lagi mampu memahami secara penuh bagaimana algoritma tersebut mengambil keputusan secara internal (fenomena black box).

Para ahli yang mempercayai skenario buruk ini bukanlah skeptis dari luar, melainkan ilmuwan inti yang merancang arsitektur sistem tersebut secara langsung. Mereka menyaksikan secara nyata bagaimana kapabilitas AI melompat jauh melampaui mekanisme pertahanan dan batas regulasi yang ada saat ini. Kekhawatiran terbesarnya bukanlah AI menjadi jahat secara mendadak, melainkan AI menjadi sangat efisien dalam mengejar tujuannya sehingga mengabaikan keberadaan manusia sebagai penghalang.

Jika persaingan komersial terus diprioritaskan di atas prinsip kehati-hatian, maka estimasi risiko **10 persen** dalam sepuluh tahun mendatang bukan sekadar angka teoritis, melainkan peringatan dini sebelum peradaban manusia memasuki titik tanpa jalan kembali.