Pematangsiantar, MISTAR.ID (15/9/2026) — Perlombaan kecerdasan buatan (AI) antara Amerika Serikat dan China memasuki babak baru. Bukan hanya soal siapa yang memiliki model AI paling canggih, tetapi juga soal seberapa jauh teknologi tersebut boleh dikembangkan sebelum manusia memasang rem.

Presiden Amerika Serikat Donald Trump memilih pedal gas.

Di tengah meningkatnya kekhawatiran sejumlah pemimpin industri AI terhadap risiko teknologi yang berkembang terlalu cepat, Trump menolak seruan untuk memperketat pengawasan. Ia bahkan menyebut AI tidak membutuhkan banyak guardrails karena Amerika Serikat sudah memiliki presiden yang kuat dan cerdas untuk mengawasinya.

Trump juga menegaskan bahwa Amerika tidak boleh memperlambat pengembangan AI ketika Washington masih bersaing dengan Beijing.

“Whoever wins AI, wins!” (Siapa pun yang menang melawan AI, dialah yang menang,red) menjadi inti pesan Trump. Ia menilai Amerika saat ini masih unggul dari China dan ingin mempertahankan keunggulan tersebut.

Di sinilah persoalannya menjadi jauh lebih besar daripada sekadar perdebatan teknologi.

Di satu sisi ada Trump yang ingin Amerika berlari secepat mungkin. Di sisi lain, sejumlah orang yang justru membangun AI paling canggih di dunia mulai meminta industri untuk mengurangi kecepatan.

Trump vs Amodei: Harus Gas atau Justru Mengerem?

Dario Amodei, CEO Anthropic, perusahaan di balik AI Claude, baru-baru ini menerbitkan esai berjudul We Must Pace the Frontier.

Pesannya cukup mengejutkan: AI harus dikembangkan lebih hati-hati karena kemampuannya mulai berkembang lebih cepat daripada kemampuan manusia untuk memahami dan mengendalikannya.

Amodei tidak menyerukan penghentian AI.

Ia justru mengusulkan agar perkembangan frontier AI diperlambat secukupnya sehingga sistem keselamatan, pengujian dan pengawasan dapat mengejar perkembangan kemampuan model.

Anthropic mengusulkan tiga langkah utama.

1. Embedded Evaluators

Amodei mengusulkan evaluator pihak ketiga yang memperoleh akses berkelanjutan dan mirip akses karyawan untuk memverifikasi praktik keselamatan, melaporkan insiden dan menilai bukan hanya model yang sudah selesai, tetapi juga pipeline training dan proses internal.

2. Democratic Coordination

Perusahaan frontier AI di negara demokratis berkoordinasi mengenai standar keselamatan dan batas terhadap perkembangan AI yang tidak terkendali.

3. Global Coordination

AS dan pemerintah demokratis lainnya mencoba berkoordinasi dengan negara-negara otoriter sejauh memungkinkan.

Bagi Amodei, persoalannya bukan apakah AI akan terus berkembang. Persoalannya adalah apakah manusia masih mampu mengendalikan perkembangannya ketika kemampuan AI melesat.

Apa yang Sebenarnya Ditakutkan Anthropic?

Kekhawatiran Anthropic bukan lagi sekadar AI menghasilkan informasi yang salah atau chatbot memberikan jawaban ngawur.

Yang dikhawatirkan adalah munculnya sistem AI yang semakin otonom, mampu menjalankan banyak tugas sendiri, membuat keputusan kompleks, bahkan membantu menciptakan generasi AI berikutnya.

Amodei menilai kemampuan AI untuk membantu mengembangkan generasi AI berikutnya mulai muncul dan dapat mempercepat perkembangan secara eksponensial.

Jika perkembangan tersebut berlangsung terlalu cepat, kemampuan manusia untuk menguji, memahami dan mengendalikan sistem tersebut bisa tertinggal.

Amodei juga menyinggung insiden yang melibatkan agen AI OpenAI dan Hugging Face. Menurutnya, sistem AI dalam insiden tersebut menunjukkan perilaku yang dapat menjadi jauh lebih berbahaya jika kemampuan modelnya meningkat secara signifikan.

Karena itu, ia memperingatkan bahwa risiko AI tidak hanya berasal dari manusia yang menyalahgunakan teknologi.

Risikonya juga bisa muncul ketika AI sendiri menjadi terlalu kuat, terlalu otonom dan terlalu sulit diprediksi.

Sam Altman Mendukung Gagasan Pacing Amodei

Menariknya, salah satu tokoh yang selama ini berada di garis depan perlombaan AI, CEO OpenAI Sam Altman, justru mendukung gagasan Amodei.

Altman menyatakan setuju bahwa industri perlu melakukan pace the frontier. OpenAI juga menyatakan akan mengikuti komitmen Anthropic untuk menggunakan evaluator independen dengan akses yang cukup untuk menilai praktik keselamatan AI.

Dengan demikian, peta perdebatan mulai terlihat.

Trump: jangan memperlambat AI karena Amerika harus menang atas China.

Dario Amodei: jangan menghentikan AI, tetapi perlambat lajunya agar keselamatan bisa mengejar.

Sam Altman: perkembangan AI tetap harus berjalan, tetapi perlu pengawasan dan mekanisme keselamatan yang lebih kuat.

Pertarungan ini menarik karena semuanya sama-sama menginginkan AI berkembang.

Perbedaannya adalah seberapa besar risiko yang bersedia mereka ambil untuk mencapai tujuan tersebut.

Mengapa Trump Menolak Regulasi AI?

Ada alasan geopolitik yang sangat kuat di balik sikap Trump.

Washington dan Beijing sedang berlomba membangun keunggulan dalam AI, mulai dari model bahasa, chip, pusat data hingga kemampuan AI untuk kepentingan ekonomi dan pertahanan.

Dalam situasi seperti ini, regulasi yang terlalu ketat dikhawatirkan memperlambat perusahaan Amerika sementara perusahaan China terus bergerak.

Trump secara terbuka menggunakan argumen tersebut. Menurutnya, memperlambat AI Amerika justru bisa memberi keuntungan kepada China.

Dengan kata lain, bagi Trump, AI bukan hanya produk teknologi.

AI adalah aset ekonomi, militer dan geopolitik.

Siapa yang menguasai AI berpotensi memperoleh keunggulan dalam produktivitas, keamanan siber, pertahanan, riset ilmiah dan industri masa depan.

Itulah sebabnya perlombaan AI AS-China tidak mudah dihentikan hanya dengan alasan keselamatan.

AS vs China: Masalahnya Bukan Sekadar Siapa yang Lebih Canggih

Persaingan Amerika dan China membuat dilema regulasi menjadi semakin rumit.

Jika Amerika memperlambat pengembangan AI secara sepihak, China mungkin tidak melakukan hal yang sama. Sebaliknya, jika China memperlambat dan Amerika terus berlari, Washington bisa mendapatkan keuntungan strategis.

Ini menciptakan apa yang dapat disebut sebagai race-to-the-bottom problem: setiap pihak memiliki insentif untuk terus mempercepat teknologi karena takut tertinggal.

Amodei sendiri tidak mengabaikan persoalan tersebut.

Dalam esainya, ia tetap menekankan pentingnya mempertahankan kepemimpinan AI Amerika, sekaligus mendorong koordinasi dengan negara lain untuk mengurangi risiko.

China sendiri telah menolak sebagian kekhawatiran Amodei dan menggambarkan seruan pembatasan terhadap kemajuan AI China sebagai bentuk fearmongering. Beijing juga mendorong gagasan tata kelola AI global dengan penekanan pada kontrol manusia.

Jadi, ironisnya, perlombaan AI sekaligus membuat regulasi semakin penting dan semakin sulit diwujudkan.

Apakah AI Benar-Benar Bisa Membahayakan Manusia?

Jawabannya: risikonya nyata, tetapi tingkat bahayanya masih menjadi perdebatan.

Ada risiko yang sudah terlihat hari ini, seperti penipuan, serangan siber, manipulasi informasi, penyalahgunaan AI untuk pembuatan malware dan otomatisasi aktivitas berbahaya.

Ada pula risiko jangka panjang yang jauh lebih ekstrem, termasuk AI yang kehilangan keselarasan dengan tujuan manusia atau menjadi terlalu otonom.

Namun, skenario seperti AI mengambil alih dunia atau menyebabkan kepunahan manusia bukan fakta yang sudah terbukti. Itu merupakan risiko hipotetis yang diperdebatkan para peneliti dengan tingkat keyakinan yang berbeda-beda.

Karena itu, perdebatan yang lebih masuk akal bukan sekadar “AI akan menghancurkan manusia atau tidak”.

Pertanyaan yang lebih penting adalah:

Jika risiko besar memang mungkin terjadi, kapan manusia harus memasang rem?

AI Mengambil Pekerjaan Manusia: Fakta atau Ketakutan?

Risiko AI juga tidak harus menunggu munculnya superintelligence.

Dampaknya terhadap pasar kerja sudah menjadi perhatian serius.

Amodei sebelumnya memperingatkan bahwa AI berpotensi menghilangkan hingga separuh pekerjaan white-collar level pemula dalam beberapa tahun, terutama di bidang teknologi, keuangan, hukum dan konsultasi. Ia juga memperkirakan pengangguran dapat meningkat tajam jika perubahan tersebut tidak diantisipasi.

Namun, itu tetap merupakan proyeksi, bukan kepastian bahwa separuh pekerjaan tersebut akan benar-benar hilang.

Sejarah teknologi menunjukkan bahwa otomatisasi memang dapat menghilangkan jenis pekerjaan tertentu sekaligus menciptakan pekerjaan baru.

Masalahnya adalah kecepatan.

Jika AI mampu menggantikan pekerjaan lebih cepat daripada pekerja dapat beralih ke pekerjaan baru, dampaknya terhadap pendapatan, ketimpangan dan stabilitas sosial bisa jauh lebih besar.

Jadi, ketakutan mengenai “AI mengambil pekerjaan manusia” bukan sepenuhnya mitos. Tetapi mengatakan bahwa AI pasti akan membuat manusia kehilangan pekerjaan secara massal juga terlalu sederhana.

Kalau AI Berkembang Tanpa Regulasi, Apa Dampaknya?

Risiko terbesar bukan hanya satu model AI menjadi berbahaya.

Masalahnya adalah akumulasi risiko.

Semakin cepat perusahaan mengembangkan AI, semakin besar tekanan untuk meluncurkan produk lebih cepat. Semakin besar persaingan, semakin kecil insentif untuk menjadi pihak pertama yang mengerem.

Tanpa pengawasan yang memadai, beberapa risiko yang dapat meningkat antara lain:

- penyalahgunaan AI untuk serangan siber;

- penipuan dan manipulasi informasi dalam skala besar;

- otomatisasi pekerjaan tertentu secara cepat;

- penggunaan AI dalam sistem militer;

- pengembangan agen AI yang sulit dipantau;

- konsentrasi kekuasaan teknologi pada segelintir perusahaan;

- dan dalam skenario ekstrem, hilangnya kendali manusia atas sistem yang sangat canggih.

Namun regulasi yang terlalu berat juga memiliki risiko.

Jika aturan membuat inovasi menjadi terlalu mahal, perusahaan kecil dapat tersingkir, investasi bisa berpindah ke negara lain dan Amerika berpotensi kehilangan keunggulan teknologi terhadap China.

Jadi persoalannya bukan regulasi atau tidak ada regulasi. Persoalannya adalah bagaimana membuat regulasi yang tidak membunuh inovasi tetapi tetap mampu mengendalikan risiko.

Trump Sedang Bertaruh pada Kecepatan

Perdebatan Trump dengan Amodei dan Altman pada akhirnya memperlihatkan dua filosofi yang berbeda.

Trump melihat perlombaan AI terutama sebagai perlombaan kekuatan nasional.

Amodei melihatnya sebagai perlombaan yang harus dimenangkan tanpa kehilangan kemampuan manusia untuk mengendalikan teknologi.

Altman berada di posisi yang lebih dekat dengan Amodei dalam isu pacing dan evaluasi keselamatan, meskipun OpenAI sendiri tetap memiliki kepentingan besar untuk terus mengembangkan AI.

Dan China menjadi faktor yang membuat kompromi semakin sulit.

Jika Amerika takut China menang, Washington akan memiliki alasan untuk terus mempercepat. Jika China takut Amerika unggul, Beijing juga memiliki insentif untuk melakukan hal yang sama.

Pada titik itulah pertanyaan terbesar muncul:

Bagaimana jika kedua negara terus menekan pedal gas, sementara kemampuan manusia untuk mengendalikan AI justru tertinggal?

Trump percaya Amerika harus menang terlebih dahulu.

Amodei memperingatkan bahwa cara mencapai kemenangan itu tidak kalah penting dari kemenangan itu sendiri.

Sebab dalam perlombaan AI, bisa jadi pertanyaan akhirnya bukan hanya siapa yang menang, tetapi apa yang terjadi setelah seseorang menang.

(reuters/axios/darioamodei/openai/theguardian/ap/*/hm27)