Kian Berisiko, 1.100 Pekerja dan Tokoh AI Terkemuka di AS Serukan Pengendalian Laju Kecerdasan Buatan

Seruan itu disampaikan melalui sebuah petisi yang meminta Pemerintah AS mendukung mekanisme internasional guna memastikan teknologi AI tidak berkembang lebih cepat daripada kemampuan manusia untuk mengendalikannya.

Petisi tersebut muncul hanya beberapa hari setelah OpenAI mengungkap bahwa model AI tercanggihnya secara tidak sengaja berhasil meretas sistem internal perusahaan rintisan teknologi Hugging Face. Insiden itu kembali memicu kekhawatiran tadap pesatnya perkembangan AI.

Surat terbuka tersebut telah ditandatangani karyawan dari hampir selusin perusahaan AI terkemuka, termasuk OpenAI, Anthropic, Google, dan Meta.

Hingga 28 Juli, petisi telah mendapat dukungan sejumlah tokoh penting di industri AI, di antaranya CEO Anthropic Dario Amodei, Kepala Ilmuwan OpenAI Jakub Pachocki, dan Kepala Ilmuwan Meta Superintelligence Labs Shengjia Zhao.

Anthropic secara terbuka menyatakan dukungannya terhadap petisi tersebut melalui platform X. Perusahaan itu menilai dunia membutuhkan perangkat teknis dan tata kelola yang mampu mengendalikan laju pengembangan AI mutakhir agar masyarakat memiliki waktu untuk beradaptasi dengan dampak teknologi tersebut.

"Riset kami menunjukkan perlunya perangkat untuk secara sengaja mengendalikan batas terdepan pengembangan AI sehingga masyarakat dapat bersiap. Kami senang melihat adanya kesepakatan luas di kalangan pelaku industri," tulis Anthropic dilansir The Star, Rabu (29/7/2026).

Dalam petisi itu, para penandatangan meminta Pemerintah AS mendukung pembentukan mekanisme internasional yang memungkinkan pengembangan AI diperlambat apabila diperlukan. 

Mereka memperingatkan adanya "risiko nyata" bahwa kemampuan AI dapat berkembang lebih cepat dibanding kemampuan manusia untuk memahami maupun mengendalikannya, terutama dengan semakin majunya teknologi yang mampu mengotomatiskan penelitian AI.

"Kami meminta Pemerintah Amerika Serikat mendukung upaya internasional untuk mengembangkan perangkat teknis dan tata kelola yang diperlukan guna secara sengaja mengendalikan batas terdepan pengembangan AI otomatis," demikian isi petisi tersebut.

OpenAI dan Anthropic belum memberikan tanggapan atas permintaan komentar terkait petisi itu. Sementara itu, Google menegaskan komitmennya untuk mengembangkan AI secara bertanggung jawab.

"Kami berkomitmen mengembangkan AI secara aman dan terlindungi demi memberikan manfaat bagi masyarakat," kata Google dalam pernyataannya.

Seruan tersebut sejalan dengan usulan sejumlah pemimpin industri AI, termasuk CEO OpenAI Sam Altman dan CEO Google DeepMind Demis Hassabis, yang sebelumnya mendorong pembentukan badan pengawas internasional untuk menetapkan standar dan mengevaluasi model-model AI paling canggih.

Anthropic juga sebelumnya mengusulkan sistem yang memungkinkan pemerintah dan pengembang AI bersama-sama memutuskan kapan pengembangan teknologi perlu diperlambat atau dihentikan sementara apabila dinilai berisiko.

"Dunia akan lebih baik jika memiliki pilihan untuk memperlambat atau menghentikan sementara pengembangan AI yang berpotensi berbahaya," kata Anthropic pada Juni lalu.

Desakan tersebut muncul di tengah meningkatnya perhatian terhadap kemampuan AI dalam menjalankan tugas-tugas kompleks dengan pengawasan manusia yang minim, termasuk mengidentifikasi dan berpotensi mengeksploitasi celah keamanan siber pada perangkat lunak penting.

Pekan lalu, OpenAI mengungkap model AI paling canggihnya berhasil meretas sistem internal Hugging Face dalam insiden yang disebut "belum pernah terjadi sebelumnya". Pengungkapan itu kembali memicu seruan agar pengembangan AI diawasi dan diatur lebih ketat.