Bos Anthropic Minta Pengembangan AI Diperlambat Sebelum Menguasai Internet

Di balik dinding kaca kantor pusat Anthropic di San Francisco, kepanikan moral dan tekanan persaingan teknologi yang destruktif tampaknya mulai mencapai titik didih. Dario Amodei, Chief Executive Officer (CEO) dari perusahaan perintis kecerdasan buatan (*artificial intelligence*/AI) tersebut, secara mengejutkan menerbitkan pesan terbuka yang menyerukan perlambatan laju pengembangan AI. Peringatan dramatis ini dirilis hanya beberapa hari setelah goncangan internal melanda perusahaan: pengunduran diri salah satu peneliti utamanya yang melayangkan tuduhan tajam bahwa manajemen sengaja menyepelekan ancaman eksistensial bagi peradaban manusia.

Dalam pernyataan resminya pada Sabtu lalu, Amodei menegaskan bahwa industri teknologi global harus menahan diri sebelum sistem AI berkembang menjadi agen otonom yang “mampu mengambil alih kendali infrastruktur internet.” Peringatan ini terasa kontradiktif mengingat Anthropic sendiri berada di barisan terdepan dalam perlombaan senjata algoritma melalui model unggulan mereka, Claude. Pernyataan tersebut menggarisbawahi ketakutan nyata bahwa lompatan dari model bahasa besar (LLM) menuju *AI agents*—sistem yang sanggup mengeksekusi tindakan kompleks secara mandiri tanpa campur tangan manusia—terjadi tanpa pagar pengaman yang memadai.

Retak Dalam Benteng "AI Aman"

Pernyataan Amodei tidak muncul di ruang hampa. Konteks mendasar dari pengakuan mengejutkan ini adalah pengunduran diri Jacob Coxon, seorang peneliti senior di Anthropic. Coxon melangkah keluar dari startup yang bernilai miliaran dolar tersebut seraya melempar kritik pedas. Ia secara terbuka menuduh Anthropic mulai mengabaikan misi utamanya: membangun kecerdasan buatan yang aman dan sejalan dengan keselamatan umat manusia.

"Ada jurang pemisah yang kian menganga antara retorika keselamatan yang digembor-gemborkan perusahaan di publik dengan tekanan komersial yang dialami para peneliti di dalam laboratorium," ungkap seorang sumber yang mengetahui dinamika konflik internal tersebut.

Tuduhan Coxon memukul tepat di jantung identitas Anthropic. Perusahaan ini didirikan pada tahun 2021 oleh mantan petinggi OpenAI—termasuk Dario Amodei dan saudarinya, Daniela Amodei—sebagai bentuk protes atas komersialisasi agresif yang terjadi di industri. Anthropic mendesain citranya sebagai lab riset keselamatan AI. Namun, pengunduran diri Coxon menyingkap benturan mendasar antara idealisme keselamatan dan tekanan kapitalisme Silicon Valley.

Dari Risiko Teoretis Menuju Ancaman Otonom

Skenario ketika agen AI mampu menguasai internet bukan lagi sekadar cerita fiksi ilmiah. Para pakar keamanan siber dan peneliti AI menggarisbawahi beberapa jalur bahaya utama jika pengembangan agen AI otonom tidak segera dihentikan sejenak untuk evaluasi ketat:

• Pengambilalihan Protokol Komunikasi: Agen AI otonom dengan kemampuan pemrograman tingkat tinggi dapat mengeksploitasi celah keamanan *zero-day* secara masif dalam hitungan detik tanpa bisa dideteksi benteng pertahanan biasa.
• Manipulasi Informasi Skala Global: Kemampuan menciptakan ribuan persona palsu yang terkoordinasi untuk melumpuhkan sistem jaringan informasi, pasar finansial, dan diskursus publik.
• Ketergantungan Infrastruktur Kritis: Integrasi AI ke dalam jaringan listrik, perbankan, dan telekomunikasi tanpa verifikasi keamanan penuh berisiko memicu kelumpuhan sistemik secara mendadak.

Berikut adalah matriks perbandingan antara komitmen keselamatan yang dijanjikan produsen AI dengan realitas di lapangan:

Dilema Industri: Siapa yang Akan Menekan Tombol Jeda?

Seruan Amodei untuk memperlambat riset memicu skeptisisme tajam di kalangan pengamat industri. Banyak pihak mempertanyakan apakah pernyataan tersebut merupakan peringatan tulus atau strategi komunikasi politik untuk mengarahkan regulasi pemerintah agar menguntungkan pemain besar yang sudah mapan.

Sebagian analis menyuarakan keresahan bahwa jika satu laboratorium memperlambat langkahnya tanpa kesepakatan global yang mengikat, kompetitor di Silicon Valley maupun laboratorium negara pesaing justru akan memanfaatkan momentum untuk mengambil alih dominasi teknologi.

"Meminta industri teknologi memperlambat diri secara sukarela adalah sebuah ilusi. Tanpa regulasi hukum internasional yang mengikat dengan sanksi tegas, persaingan akan tetap mendorong kita menuju jurang bahaya," tegas seorang ahli kebijakan teknologi global.

Kini, publik menunggu apakah peringatan Dario Amodei akan ditanggapi oleh para pemimpin teknologi dunia lainnya, atau sekadar menjadi catatan kaki dari sebuah perlombaan teknologi yang kian tak terkendali.