CEO Anthropic Dario Amodei menyerukan perlambatan laju kemajuan kecerdasan buatan (AI), namun mengakui dilema terbesar adalah potensi negara rival, terutama China, untuk tidak mengikuti langkah serupa. Kekhawatiran utama adalah Amerika Serikat bisa tertinggal dalam persaingan AI global.
"Hal yang lebih berjangka panjang adalah bekerja sama untuk menetapkan batas kecepatan pada laju kemajuan AI. Menurut saya itu akan sangat sulit karena insentif untuk unggul dan keuntungan militer yang Anda dapatkan darinya begitu besar. Sejujurnya, saya tak tahu apakah itu mungkin, tapi kita harus mencoba," ujar Amodei.
Usulan ini muncul setelah Amodei menerbitkan esai yang mendesak perusahaan AI untuk memperlambat pengembangan model tercanggih, menyusul peringatan keras peneliti industri tentang potensi bencana dari teknologi tersebut. Jacob Coxon, seorang peneliti Anthropic, bahkan mengundurkan diri karena khawatir perusahaannya dan OpenAI "mempertaruhkan nyawa."
Di sisi lain, startup AI China semakin menunjukkan momentum dan mulai menyaingi produk unggulan dari perusahaan AS seperti OpenAI dan Anthropic. Perkembangan ini memicu kekhawatiran dari anggota parlemen dan pakar Silicon Valley.
Presiden China Xi Jinping sebelumnya menyerukan "kerangka tata kelola AI global berbasis konsensus" pada KTT BRICS dan mengatakan China akan membantu mendirikan komunitas open-source AI BRICS. AI diperkirakan akan menjadi topik kunci dalam diskusi tingkat tinggi antara AS dan China.
Beberapa pemimpin industri AI lainnya turut menyambut baik usulan Amodei. Sam Altman, CEO OpenAI, menyatakan dukungannya dengan menulis bahwa ia setuju akan perlunya "mengatur laju teknologi terdepan."
Demis Hassabis, Kepala Google DeepMind, juga berkomentar, "Esai Dario mengarah ke jalan yang tepat untuk masa depan. Detailnya perlu dibahas lebih lanjut, tapi arahnya sudah benar untuk menghadapi momen kritis ini." Elon Musk, CEO Tesla dan SpaceX, menambahkan, "Dario benar bahwa harus ada pengawasan. Tinjauan sejawat (peer review) terhadap AI oleh para pesaing adalah cara yang tepat untuk memulai ini."
Dalam esainya, Amodei mengusulkan rencana tiga langkah. Pertama, memberikan akses setingkat karyawan kepada evaluator pihak ketiga untuk memverifikasi praktik keamanan dan melaporkan insiden.
Langkah kedua mendorong perusahaan AI terkemuka di negara-negara demokratis untuk berkoordinasi dan menetapkan standar keamanan bersama. Terakhir, ia menyerukan koordinasi antara pemerintah demokratis dan otoriter.







