Ketika Teknologi yang Sama Memiliki Dua Sisi

Kemampuan merancang bakteriofag memperlihatkan konsep dual-use dengan sangat jelas.

Teknologi yang sama dapat digunakan untuk tujuan yang bermanfaat maupun berisiko, tergantung pada desain, konteks, akses, dan pengawasannya.

Dalam konteks medis, AI dapat membantu mencari cara baru untuk menyerang bakteri yang resisten terhadap antibiotik.

Dalam konteks lain, kemampuan desain biologis yang semakin maju dapat menimbulkan risiko penyalahgunaan.

Karena itu, persoalannya bukan semata-mata apakah AI “berbahaya”. Yang lebih penting adalah bagaimana memastikan kemampuan tersebut digunakan dalam lingkungan yang memiliki batasan, pengujian, dan pengawasan yang memadai.

Mengapa Pengawasan Tidak Bisa Hanya Berfokus pada AI?

Salah satu kesalahan dalam melihat risiko AI-biologi adalah menganggap model AI sebagai satu-satunya titik yang perlu diawasi.

Padahal, prosesnya membentuk sebuah rantai:

AI → desain biologis → sintesis DNA → laboratorium → sistem biologis.

Setiap tahap dapat menjadi lapisan pertahanan.

Pengembang model dapat menerapkan evaluasi keamanan dan pembatasan terhadap penggunaan berisiko. Peneliti dan institusi dapat melakukan penilaian biosafety sebelum eksperimen dilakukan. Penyedia sintesis DNA dapat menyaring pesanan. Sementara regulator menetapkan standar dan mekanisme pengawasan.

NIST menilai penyaringan sintesis asam nukleat merupakan bagian penting dalam mengurangi risiko penyalahgunaan AI untuk biodesain. Lembaga tersebut juga menyoroti tantangan baru ketika AI mampu menghasilkan urutan biologis yang tidak memiliki kemiripan langsung dengan urutan berbahaya yang sudah dikenal.

Artinya, hanya mencari kecocokan urutan DNA dengan database yang sudah ada mungkin tidak selalu memadai.

Ke depan, sistem pengawasan juga perlu semakin mampu menilai fungsi dan potensi risiko biologis.

Siapa yang Harus Memegang Kendali?

Pengawasan AI dalam biologi tidak dapat dibebankan kepada satu pihak.

Pengembang AI

Pengembang model memiliki tanggung jawab untuk mengevaluasi kemampuan berisiko, menerapkan pengamanan, mengendalikan akses, serta membangun mekanisme yang dapat mengurangi penyalahgunaan.

Sejumlah peneliti bahkan mendorong agar biosecurity dibangun langsung ke dalam sistem AI melalui pendekatan seperti evaluasi keselamatan, mitigasi jailbreak, alignment, dan mekanisme pengamanan lainnya.

Peneliti dan Laboratorium

Manusia tetap harus menentukan apakah suatu rancangan layak diwujudkan dan diuji.

Laboratorium juga membutuhkan prosedur biosafety dan biosecurity, fasilitas yang sesuai, personel terlatih, serta mekanisme untuk menghentikan eksperimen apabila muncul risiko yang tidak dapat diterima.

Penyedia Sintesis DNA

Penyedia sintesis asam nukleat berada pada posisi strategis karena rancangan digital baru dapat menjadi materi biologis nyata setelah melewati rantai pengadaan dan sintesis.

Karena itu, penyaringan pesanan menjadi salah satu lapisan penting dalam biosecurity. NIST saat ini juga mengembangkan pendekatan untuk memperkuat standar dan kemampuan screening terhadap risiko yang muncul dari konvergensi AI dan bioteknologi.

Pemerintah dan Regulator

Regulator perlu memastikan terdapat aturan mengenai penelitian berisiko, akses terhadap teknologi, fasilitas laboratorium, serta mekanisme pengawasan.

Masalahnya, ekosistem ini bersifat global. Model dapat dibuat di satu negara, data tersedia di negara lain, sintesis dilakukan di tempat berbeda, dan penelitian berlangsung di wilayah lain.

Karena itu, koordinasi internasional menjadi semakin penting.

Komunitas Ilmiah dan Jurnal

Keterbukaan ilmiah tetap dibutuhkan untuk memungkinkan penelitian diverifikasi dan dikembangkan.

Namun, ketika sebuah penelitian memiliki potensi penyalahgunaan, muncul dilema antara transparansi dan keamanan.

Karena itu, isu yang dihadapi bukan hanya AI safety, melainkan juga science safety.

Fakta yang Sudah Terbukti dan yang Belum