GEGER! Peneliti AI Jacob Coxon mengundurkan diri, memperingatkan bahwa perusahaan sedang berlomba menuju superkecerdasan yang “bisa membunuh kita semua pada akhir dekade ini”

Peneliti pra-pelatihan (pretraining researcher) Anthropic, Jacob Coxon, telah mengundurkan diri dari jabatannya pada 9 September 2026 dan melontarkan kritik tajam terhadap arah industri kecerdasan buatan saat ini.

Melalui pernyataan panjang di platform X dan wawancaranya dengan Wall Street Journal, ilmuwan berusia 27 tahun yang telah menghabiskan tiga tahun meneliti prapelatihan model di OpenAI dan Anthropic ini memperingatkan bahwa perusahaan-perusahaan AI sedang bertaruh dengan nyawa kita demi mengejar superintelijen.

Berikut adalah poin-poin krusial dari peringatan yang disampaikan oleh Jacob Coxon:

• Risiko Eksistensial yang Nyata: Coxon menegaskan bahwa ancaman superintelijen yang dapat memusnahkan umat manusia bukanlah sekadar trik pemasaran (marketing stunt). Ia mengklaim mendengar langsung ketakutan mendalam tersebut dibicarakan secara privat oleh para eksekutif dan peneliti senior di industri AI.
• Garis Waktu yang Sangat Singkat: Menurutnya, laju perkembangan sistem prapelatihan yang mampu melakukan perbaikan mandiri secara rekursif (self-improving AI) bergerak terlalu cepat. Ia memperingatkan bahwa situasi bisa mulai berjalan di luar kendali pada akhir tahun depan (2027), dengan ancaman fatal yang berpotensi terjadi sebelum akhir dekade ini (2030).
• Kritik Terhadap OpenAI dan Anthropic: Coxon menyatakan bahwa baik OpenAI maupun Anthropic tidak bertindak secara bertanggung jawab. Ia membedakan keduanya dengan menyebut bahwa di OpenAI, banyak yang belum menginternalisasi taruhan peradaban ini secara mendalam. Sementara di Anthropic, meski risikonya sangat dipahami, mereka tetap terjebak dalam perlombaan komersial karena merasa harus memenangkannya terlebih dahulu agar tidak jatuh ke tangan pihak yang tidak bertanggung jawab.
• Analogi Proyek Manhattan: Coxon merasa ironis dan berbahaya karena pengembangan teknologi berkekuatan masif ini dilakukan secara serampangan lewat “MacBook milik beberapa insinyur yang tinggal di San Francisco,” bukannya di dalam bungker gurun yang terjaga ketat layaknya Proyek Manhattan (PROYEK BOM ATOM PERTAMA AS) di masa lalu.

Pernyataan Coxon ini juga diamini secara publik oleh tokoh keselamatan AI Anthropic lainnya, seperti Evan Hubinger, yang membenarkan kekhawatiran tersebut dan mengakui bahwa industri saat ini belum memiliki rencana matang untuk menyelesaikan masalah penyelarasan (alignment) pada skala kecerdasan super.

Pengunduran diri Coxon menambah panjang daftar hengkangnya para peneliti senior dari divisi keselamatan dan prapelatihan di berbagai laboratorium AI terkemuka sepanjang tahun ini.

SIMAK SELENGKAPNYA PERNYATAAN JACOB COXON DI UTAS X: