Jakarta, MISTAR.ID (24/9/2026) - Wacana perlambatan pengembangan kecerdasan buatan (AI) oleh perusahaan teknologi Amerika Serikat seperti OpenAI, Anthropic, dan Grok mendapat tanggapan pakar. Langkah tersebut dinilai beralasan karena AI yang makin cerdas berpotensi membahayakan manusia.

Anggota AI Safety Institute Indonesia (AISII) Alva Erwin mengatakan, potensi AI mengancam eksistensi manusia nyata jika dibiarkan tanpa kendali.

"Potensi AI mengancam eksistensi manusia memang nyata jika dibiarkan tanpa kendali. Seperti semua produk sosio teknologi, AI juga memiliki risiko," kata Erwin kepada CNNIndonesia.com, Minggu (21/9/2026).

Menurut Erwin, spektrum risiko AI bergerak dari rendah hingga katastropik atau risiko eksistensial. Ancaman itu terbagi dalam empat domain:

1. Risiko intrinsik, seperti halusinasi, bias, dan lahirnya super-intelligence.

2. Risiko penyalahgunaan, untuk serangan siber atau disinformasi seperti deepfake.

3. Risiko dampak, berupa disrupsi tenaga kerja, krisis privasi, serta kebutuhan energi dan air yang sangat tinggi.

4. Risiko sistemik dan tata kelola, yakni kerapuhan sistem dan lambatnya regulasi.Perlambatan pengembangan memberi ruang bagi pemangku kepentingan untuk bersiap.

"Memperlambat laju pengembangan AI dapat memberi ruang bagi masyarakat pengguna dan terdampak, industri pengembang, ilmuwan AI, serta pembuat kebijakan untuk menyiapkan regulasi, etika, dan sistem keamanan sebelum teknologinya melompat terlalu jauh di luar kendali," ujar Erwin.

Kekhawatiran itu tertuang dalam sejumlah riset. Secara teoretis, sistem cerdas cenderung memastikan tercapainya tujuan yang ditetapkan, tetapi bisa menggunakan cara keliru yang merugikan manusia.

Risiko makin besar jika AI mampu melakukan recursive self-improvement atau meriset, memperbaiki, dan melatih diri sendiri tanpa campur tangan manusia sehingga memicu ledakan kecerdasan di luar kendali.

Erwin menilai perdebatan ancaman AI tidak lepas dari dinamika geopolitik Amerika Serikat dan China. Narasi bahaya AI dan upaya perlambatan kerap dicurigai sebagai fearmongering untuk menghalangi kemajuan lawan dan menjaga keunggulan kompetitif.

Dari sisi industri, perlambatan model paling mutakhir (frontier model) akan mengubah arah persaingan. Pengembangan tidak lagi berfokus pada pembesaran ukuran model (frontier scaling), tetapi pada optimalisasi model yang lebih ramping, arsitektur RAG yang presisi, dan kompresi (quantization) untuk efisiensi.

Perlambatan juga akan mendorong pengawasan independen seperti regulator perbankan atau pasar modal. Namun, hal itu menambah beban biaya kepatuhan yang kemungkinan hanya mampu dipenuhi raksasa teknologi.

"Bila model tertutup melambat, komunitas sumber terbuka berpotensi mengisi kekosongan, kecuali jika regulasi juga mencakup pembatasan komputasi perangkat keras atau batas ekspor GPU," kata Erwin. (CNN/hm02)