Fakta yang Sudah Terbukti dan yang Belum

Temuan terbaru perlu ditempatkan secara proporsional.

Yang sudah terbukti:

1. AI dapat menghasilkan rancangan genom lengkap bakteriofag.
2. Sebagian rancangan tersebut dapat diwujudkan menjadi bakteriofag yang berfungsi.
3. Sebanyak 16 fag hasil rancangan AI berhasil diuji dalam penelitian.
4. Fag tersebut dapat menginfeksi dan membunuh E. coli dalam pengujian laboratorium.
5. Teknologi ini berpotensi membantu eksplorasi terapi fag untuk menghadapi bakteri yang sulit ditangani.

Yang belum terbukti:

1. AI dapat secara mandiri menciptakan virus yang menginfeksi manusia.
2. AI dapat menghasilkan patogen manusia hanya melalui satu perintah.
3. AI dapat menggantikan ilmuwan dan laboratorium.
4. Setiap rancangan genom yang dihasilkan AI akan berfungsi ketika diwujudkan.
5. Fag hasil rancangan penelitian tersebut sudah siap menjadi terapi bagi pasien.

Pemisahan antara fakta dan skenario penting agar pembahasan biosecurity tidak berubah menjadi kepanikan teknologi.

Namun, keterbatasan saat ini juga bukan alasan untuk mengabaikan perkembangan kemampuan AI.

Tantangan Besar Ada pada Kecepatan Iterasi

Bukan hanya kemampuan AI yang berubah. Kecepatan eksplorasi desain juga berubah.

Dalam penelitian konvensional, ilmuwan mungkin menguji sejumlah kandidat, mempelajari hasilnya, memperbaiki desain, lalu mengulangi proses tersebut.

AI dapat membantu memperluas ruang pencarian secara komputasional.

Semakin baik model menghasilkan rancangan yang masuk akal, semakin banyak kandidat yang dapat dipertimbangkan sebelum eksperimen dilakukan.

Jika perkembangan itu bertemu dengan sintesis DNA yang semakin mudah dan otomatisasi laboratorium yang semakin maju, batas antara dunia digital dan biologis dapat semakin tipis.

Itulah alasan mengapa pengawasan sebaiknya tidak menunggu sampai teknologi mencapai kemampuan yang jauh lebih canggih.

Dari Human in the Loop Menjadi Human in Command

Dalam pengembangan AI, konsep human in the loop sering digunakan untuk memastikan manusia tetap terlibat.

Untuk biologi, prinsip tersebut mungkin perlu diperkuat menjadi human in command.

Artinya, manusia bukan sekadar memeriksa keluaran AI, tetapi tetap memiliki kewenangan untuk:

- menolak rancangan tertentu;

- menghentikan eksperimen;

- meminta peninjauan tambahan;

- mengaudit penggunaan sistem;

- menelusuri keputusan dari desain hingga eksperimen; dan

- mengambil keputusan akhir ketika risiko meningkat.

Prinsip dasarnya sederhana:

AI boleh mengusulkan, tetapi manusia harus tetap berwenang memutuskan.

Bukan Sekadar Soal AI yang Bisa Merancang Virus

Terobosan bakteriofag menunjukkan bahwa AI mulai bergerak dari alat untuk membaca dan menganalisis biologi menjadi alat yang dapat membantu merancang sistem biologis baru.

Potensinya besar, terutama untuk bidang seperti terapi fag dan pencarian solusi terhadap resistansi antibiotik.

Tetapi kemampuan tersebut juga membawa tantangan baru.

Pertanyaan pentingnya bukan lagi sekadar, “Apakah AI suatu hari dapat merancang virus?”

Sebagian dari pertanyaan itu kini telah terjawab, meski masih dalam konteks bakteriofag yang menginfeksi bakteri, bukan virus manusia.

Pertanyaan yang lebih mendasar adalah:

Ketika AI mampu merancang sesuatu yang biologis, siapa yang menentukan apa yang boleh diwujudkan?

Jawabannya tidak cukup dengan menunjuk perusahaan AI, ilmuwan, laboratorium, atau regulator secara terpisah.

Dibutuhkan rantai pertahanan berlapis yang mencakup model AI, data, akses pengguna, peneliti, komite biosafety, penyedia sintesis DNA, laboratorium, regulator, dan komunitas ilmiah.

Sebab, risiko terbesar bukan ketika AI menghasilkan sebuah rancangan di layar komputer.

Risiko yang lebih penting muncul ketika rancangan tersebut berhasil melewati seluruh pintu pengawasan dan berubah menjadi sesuatu yang nyata.

Di setiap pintu itulah manusia harus memastikan masih ada rem.

(berbagaisumber/*/hm27)