London, MISTAR.ID - Raja Charles III memperingatkan para pemimpin industri kecerdasan buatan (AI) mengenai potensi bahaya teknologi tersebut jika jatuh ke tangan yang salah.

Peringatan itu disampaikan Raja Charles saat menggelar pertemuan puncak mengenai AI di Dumfries House, Ayrshire, Inggris. Pertemuan tersebut membahas upaya memastikan perkembangan AI memberikan manfaat bagi masyarakat sekaligus mengantisipasi berbagai risiko yang ditimbulkannya.

Sejumlah tokoh menghadiri pertemuan tersebut, termasuk Menteri AI Inggris Kanishka Narayan, penasihat Paus, serta perwakilan perusahaan teknologi AI seperti Nvidia, OpenAI, dan Anthropic.

Pertemuan berlangsung di tengah meningkatnya perdebatan mengenai kemampuan model AI canggih serta kebutuhan untuk mengatur perkembangan teknologi tersebut.

"Mereka yang telah menciptakan teknologi ini sekarang semakin memperingatkan bahwa AI berisiko mengembangkan kemampuan yang lebih gelap - bahkan mungkin untuk mengambil nyawa," kata Raja Charles kepada para eksekutif, seperti dilaporkan BBC.

Menurut Raja Charles, kondisi tersebut menunjukkan adanya urgensi untuk mempertimbangkan bahaya eksistensial dari teknologi AI jika digunakan oleh pihak yang salah dan dengan cara yang dapat menimbulkan bencana.

"Tugas yang ada di hadapan Anda bukan hanya untuk memajukan teknologi, tetapi juga untuk memastikan bahwa teknologi tersebut tetap berada dalam pelayanan kemanusiaan, masyarakat, dan alam," ujarnya.

KTT tersebut juga membahas kemungkinan penyusunan serangkaian prinsip bersama untuk memandu penerapan AI pada masa mendatang.

CEO Nvidia Jensen Huang yang turut hadir dalam pertemuan itu mengatakan keselamatan harus menjadi prioritas utama dalam pengembangan AI.

Menurut Huang, perusahaan seharusnya menunda peluncuran produk apabila teknologi yang dikembangkan belum memenuhi standar keamanan dan terus melakukan pengembangan hingga standar tersebut terpenuhi.

Huang juga menyoroti pentingnya model AI terbuka yang dapat memberikan akses lebih luas terhadap teknologi tersebut. Menurut dia, model semacam itu dapat membantu masyarakat dan negara agar tidak tertinggal dalam perkembangan AI.

"Marilah kita memimpin dengan optimisme yang bertanggung jawab, membangun AI dengan aman dan terjamin, membukanya untuk lebih banyak orang, memperluas ambisi kita, dan memecahkan masalah yang penting bagi dunia," kata Huang.

Nvidia merupakan salah satu perusahaan utama dalam infrastruktur AI dan memasok chip kepada sejumlah pengembang model AI, termasuk OpenAI dan Meta.

Perusahaan tersebut saat ini memiliki nilai pasar saham sekitar 5,15 triliun dolar AS. (hm25/CNN Indonesia)