MISTAR.ID – Mendengar kata kotak hitam, bagi banyak orang yang terlintas dipikiran adalah pesawat. Tidak hanya pesawat, kecerdasan buatan (AI) ternyata juga memiliki kotak hitam loh!
Jika kotak hitam di pesawat berfungsi sebagai tempat penyimpanan data, tidak jauh berbeda dengan kotak hitam AI. Kotak hitam AI digunakan untuk menyimpan segudang data untuk keamanan sistem perangkat lunak.
Kotak hitam AI sendiri pada dasarnya adalah bagaimana sistem AI dengan cara kerja internal. Sistem AI generatif seperti ChatGPT dan DALL-E 2 didasari pada pembelajaran mesin. Tiga komponen pembelajaran mesin yang dimaksud, yaitu algoritme atau sekumpulan algoritme, data pelatihan, dan model.
Baca Juga:Â Kecerdasan Buatan Picu Seorang Pria Bunuh Diri
Salah satu dari tiga komponen sistem pembelajaran mesin dapat disembunyikan atau di dalam kotak hitam. Seperti yang sering terjadi, algoritme diketahui publik yang membuatnya menjadi kotak hitam menjadi kurang efektif.
Kemudian, cara lain untuk menyimpan data lebih aman yang dilakukan pengembang perangkat lunak dengan cara mengaburkan data. Informasi dari Gizmodo, Selasa (30/5/23), Â ada beberapa alat populer sedang dikembangkan untuk peningkatan kualitas penyimpanan kotak hitam AI, antara lain:
LIME (Local Interpretable Model-Agnostic Explanations)
SHAP (SHapley Additive exPlanations)
ELI5 (Explain Like I’m 5)
DALEX (Descriptive mAchine Learning EXplanations)
