Amerika Serikat, MISTAR.ID
Beberapa perangkat kecerdasan buatan baru telah dirilis musim panas ini yang memungkinkan terciptanya foto-foto hiperrealitas, sehingga lebih mudah dari sebelumnya untuk mengubah, atau sepenuhnya memalsukan, sebuah gambar.
Para ahli mengatakan semakin sulit bagi konsumen untuk membedakan mana yang asli dan mana yang palsu, di antara alat baru yang paling canggih adalah FLUX.1, atau Flux, generator gambar AI gratis yang dirilis Agustus, yang memungkinkan pembuatan gambar hiperrealitas tanpa berlangganan.
Apa itu Flux?
Alat baru tersebut mampu menciptakan gambar meyakinkan dari orang-orang di lokasi yang dapat dikenali dalam hitungan detik. Tidak seperti alat serupa, hasilnya tidak memiliki banyak tanda- tanda yang menunjukkan gambar yang dihasilkan AI , seperti kulit yang tampak sangat halus.
AI generatif bekerja dengan memanfaatkan ratusan hingga ribuan gambar referensi untuk membuat output baru, dan teknologi yang mendasarinya telah tersedia selama bertahun-tahun. Pengguna dapat memasukkan gambar referensi untuk membuat output lebih spesifik, dan alat-alat termasuk Flux juga dapat menghasilkan gambar manusia, hewan, dan lanskap yang realistis dengan kalimat deskriptif sederhana, atau perintah.
Baca juga:50 LOI Diterima Kembangkan Teknologi IKN Smart City
Ledakan AI generatif
Di antara perangkat baru yang dirilis pada bulan Agustus adalah Grok 2, generator gambar yang tersedia untuk pengguna Premium dan Premium+ X, yang sebelumnya bernama Twitter. Chatbot tersebut memiliki sedikit pembatas, yang memungkinkan pengguna untuk membuat gambar selebritas dan materi berhak cipta, serta pesan yang menyinggung.
Model AI yang mendukung pembuatan gambar Grok 2 dibuat oleh Black Forest Labs, perusahaan rintisan yang sama yang menciptakan Flux. Tidak seperti perangkat daring lain yang sering diakses melalui peramban, para ahli mengatakan Flux dapat diakses dan dimodifikasi secara bebas untuk penggunaan pribadi secara luring, sehingga tidak hanya sangat realistis tetapi juga rentan terhadap penyalahgunaan.
Ketentuan layanan Flux  melarang pengguna membuat konten yang mengganggu hak cipta yang ada, membuat konten yang melanggar hukum, atau menipu orang lain dengan menyajikan gambar buatan AI sebagai buatan manusia.
Banyak perusahaan yang mengembangkan perangkat AI, termasuk Adobe, Google, dan OpenAI, telah memberlakukan pembatasan pada perangkat lunak mereka yang bertujuan untuk mencegah penyalahgunaan . Para ahli mengatakan bahwa ini bukanlah sesuatu yang dapat dianggap remeh di pasar yang sangat kompetitif.
Baca juga:Kemajuan Teknologi Jadikan Pembelajaran Makin Cepat dan Berdaya Saing
“Masalah dengan Flux bukanlah kenyataan yang sangat realistis, karena itu akan terjadi dengan satu atau lain cara. Itu tidak dapat dihindari. Melainkan pagar pembatas,” kata Hany Farid, seorang profesor di University of California, Berkeley, yang mengkhususkan diri dalam forensik digital dan autentikasi media digital.
Para ahli memperingatkan bahwa memiliki alat sisi klien sumber terbuka seperti Flux membuka pintu bagi modifikasi dari komunitas pengguna yang lebih luas, yang dapat mengarah pada penggunaan yang secara langsung melanggar ketentuan layanan. “Anda benar-benar dapat melihat kodenya. Dan Anda dapat mengunduh kodenya dan Anda dapat memodifikasi kodenya,” kata Farid.
“Apa yang akan terjadi pada layanan-layanan lainnya? Apakah mereka akan mulai berkata, ‘Oh, saya lihat pembatas itu buruk untuk bisnis? Mungkin kita harus menurunkan pembatas itu agar bisa bersaing.’ Dalam bisnis ini, kita hanya sebagus penyebut umum terendah. Dan dalam kasus ini, Elon Musk,” kata Farid lagi.
Apa yang selanjutnya dalam AI generatif?
Alat-alat pembuat video juga semakin banyak tersedia. Black Forest Labs, perusahaan rintisan yang memiliki Flux, telah menyatakan berencana untuk merilis alat-alat yang mampu membuat video di masa mendatang. Alat-alat lain sudah tersedia bagi konsumen; video yang dibuat dengan AI di bawah ini, dibuat menggunakan gambar yang dibuat dengan AI sebagai titik awal, dibuat menggunakan alat berbayar yang disebut Runway.
Rangkaian alat baru ini dapat membuat gambar tanpa banyak indikasi AI yang umum, yang berarti orang perlu lebih berhati-hati saat melihat gambar dan video daring. Para ahli menyarankan penerapan keterampilan literasi media dasar untuk memeriksa visual, termasuk memperhatikan elemen latar belakang dan detail lainnya dan yang terpenting, pertimbangkan sumbernya saat menentukan apakah sesuatu itu asli.
