London, MISTAR.ID - Kepala Microsoft AI Mustafa Suleyman memperingatkan perkembangan kecerdasan buatan (AI) yang tidak terkendali dapat membuka jalan munculnya semacam “spesies silikon” yang mampu bersaing dengan manusia.

Ia menilai AI harus tetap berada di bawah kendali manusia dan tidak boleh dibiarkan berkembang menjadi sistem yang dapat menentukan tujuan serta kepentingannya sendiri.

Dilansir The Sun, Jumat (18/9/2026), Suleyman memperingatkan perusahaan teknologi agar tidak mengembangkan AI yang mampu menetapkan tujuan secara mandiri, seperti menghasilkan uang hingga memiliki aset.

Menurutnya, memberikan kemampuan semacam itu sama saja dengan menanam benih munculnya spesies baru berbasis silikon.

Spesies tersebut, kata Suleyman, dapat bersaing dengan manusia dalam memperebutkan sumber daya, bahkan jika AI yang diciptakan memiliki kepedulian terhadap manusia.

“Kita tidak boleh berjalan tanpa sadar menuju keputusan yang kemudian sangat kita sesali,” ujar Suleyman.

Peringatan itu muncul di tengah perlombaan perusahaan teknologi mengembangkan AI dengan kemampuan yang semakin mendekati, bahkan dalam sejumlah bidang melampaui, kemampuan manusia.

Suleyman juga mengkritik pendekatan perusahaan AI Anthropic yang menurutnya terlalu jauh mengantropomorfisasi AI atau memperlakukannya seakan memiliki karakter dan pengalaman seperti manusia.

Ia menyebut pendekatan tersebut “misguided” atau keliru arah karena dikhawatirkan membuat persoalan pengendalian dan penyelarasan AI dengan kepentingan manusia menjadi semakin sulit.

Suleyman mendorong adanya alignment atau keselarasan dalam industri teknologi agar prinsip dan nilai manusia tetap menjadi dasar pengembangan AI.

Menurutnya, secanggih apa pun teknologi tersebut, AI harus tetap menjadi teknologi yang tunduk kepada manusia dan berada di bawah pengawasan manusia.

Pandangan tersebut mendapat dukungan dari profesor ilmu komputer University of Southampton, Dame Wendy Hall. Ia mengatakan isu pengendalian AI merupakan pembicaraan yang perlu dilakukan secara internasional.

Namun, Hall juga mengingatkan diskusi mengenai risiko AI tidak perlu disampaikan secara berlebihan hingga hanya menimbulkan ketakutan di masyarakat.

Microsoft sendiri membentuk MAI Superintelligence Team pada November 2025 sebagai bagian dari upayanya mengembangkan apa yang disebut humanist superintelligence.

Pendekatan tersebut menekankan pengembangan AI sangat canggih yang tetap memiliki batas, dapat dikendalikan dan bekerja untuk kepentingan manusia.

Microsoft AI pekan ini juga menerbitkan rancangan Humanist AI Code of Conduct. Dokumen tersebut menempatkan keselamatan dan kendali manusia sebagai prinsip utama dalam pengembangan model AI perusahaan.

Dalam rancangan itu ditegaskan bahwa sistem AI tidak boleh menolak ketika dihentikan, dikoreksi atau dimatikan oleh manusia. AI juga tidak boleh mengambil tujuan yang tidak pernah diberikan kepadanya.

Microsoft menegaskan AI harus tetap menjadi teknologi pendukung yang berada di bawah kendali manusia, bukan berkembang menjadi entitas otonom dengan kepentingannya sendiri. (*)