Jakarta, MISTAR.ID
OpenAI telah memiliki sistem untuk memberi watermark atau tanda air pada teks yang dibuat chatbot AI ChatGPT dan alat untuk mendeteksi watermark yang sudah siap selama sekitar satu tahun. Namun hingga saat ini fitur tersebut belum diterapkan.
OpenAI disebut terbagi secara internal mengenai apakah akan merilis fitur tersebut atau tidak. Di satu sisi, fitur ini tampak seperti bentuk tanggung jawab yang harus dilakukan, tetapi di sisi lain, ini bisa merugikan keuntungannya.
Melansir The Verge, watermarking OpenAI digambarkan sebagai penyesuaian bagaimana model memprediksi kata dan frasa yang paling mungkin mengikuti kata dan frasa sebelumnya, menciptakan pola yang dapat dideteksi.
Kehadiran cara untuk mendeteksi materi yang ditulis oleh AI adalah keuntungan potensial bagi guru yang mencoba mencegah siswa menyerahkan tugas menulisnya kepada AI. OpenAI sendiri menemukan bahwa watermarking tidak memengaruhi kualitas output teks chatbot-nya.
Baca Juga : ChatGPT Bikin Kinerja Wartawan Lebih Tertib dan Efisien
OpenAI mengonfirmasi bahwa mereka telah membuat teks watermarking dalam sebuah pembaruan posting blog. Di dalamnya, perusahaan tersebut mengatakan metodenya sangat akurat dengan akurasi 99 persen dan tahan terhadap “gangguan, seperti parafrase.”
Di sisi lain, OpenAI khawatir penggunaan watermarking dapat mematikan pengguna ChatGPT. Pasalnya, dalam survei yang mereka danai ditemukan hampir 30 persen pengguna yang mengaku akan lebih jarang menggunakan ChatGPT jika watermarking diterapkan.
Meski demikian, beberapa karyawan masih merasa bahwa watermarking efektif. Melihat sentimen pengguna yang membuat resah, sejumlah karyawan ChatGPT menyarankan untuk mencoba metode yang tidak terlalu kontroversial.
OpenAI baru-baru ini mengatakan mereka sedang “dalam tahap awal” mengeksplorasi penyematan metadata. Mereka menambahkan bahwa masih “terlalu dini” untuk mengetahui seberapa baik cara kerjanya, tetapi karena ditandatangani secara kriptografis, tidak akan ada false positif. (cnn/hm24)
