Tulis Pakai ChatGPT Kini Bakal Punya Watermark Tersembunyi
PerbesarOpenAI resmi mengumumkan penerapan watermark (tanda air) tersembunyi pada teks yang dihasilkan oleh chatbot hingga codex artificial intelligence ChatGPT. Kebijakan ini bikin tulisan buatan mesin bisa dilacak.
OpenAI mengambil langkah tersebut sebagai respons terhadap Undang-Undang Kecerdasan Buatan Uni Eropa (EU AI Act) yang mewajibkan teks yang dihasilkan dari AI generatif dapat diidentifikasi secara otomatis. Teknologi pelacakan teks milik OpenAI ini bernama textGrain.
Berbeda dengan watermark pada gambar atau foto yang kasatmata, watermark teks ini beroperasi di balik layar. Sistem textGrain menambahkan "sinyal statistik tak terlihat" ke dalam pola pemilihan kata yang digunakan oleh model AI.
Daftar isi
Daftar isi
Daftar isi
Nantinya, sebuah alat detektor khusus bisa membaca pola tersebut untuk menilai apakah sebuah tulisan merupakan hasil campur tangan sistem OpenAI atau bukan.
Lantas, siapa saja yang sudah mulai diawasi oleh watermark ini?
Untuk saat ini, OpenAI menerapkan pendekatan bertahap. Dalam beberapa minggu ke depan, watermark tersembunyi ini akan aktif secara otomatis (default) untuk seluruh pengguna ChatGPT dan Codex khusus di wilayah Uni Eropa.
Sementara itu, bagi pelanggan API global (developer yang menyematkan sistem OpenAI di aplikasi buatan mereka), fitur ini sudah tersedia mulai hari ini sebagai opsi opt-in (pilihan aktif).
Masih Punya Celah Besar
Meski terdengar canggih, OpenAI secara terbuka mengakui bahwa teknologi ini masih jauh dari kata sempurna. Watermark teks ini terbukti sangat mudah dilemahkan.
"Watermarking teks dan deteksinya masih merupakan teknologi tahap awal dengan keterbatasan yang signifikan, dan pandangan mengenai manfaat serta penggunaannya secara bertanggung jawab masih terus berkembang," tulis OpenAI dalam keterangannya.
Dari hasil evaluasi internal OpenAI, ada beberapa kondisi di mana detektor ini gagal mengenali teks buatan AI:
Teks Pendek & Kaku: Teks dengan panjang di bawah 200 token atau teks yang tidak memiliki banyak variasi kata (seperti jawaban soal matematika) sangat sulit dideteksi.
Gampang Hilang Jika Diedit: Mengedit hasil teks ChatGPT ternyata bisa menghilangkan jejak watermark. OpenAI mencatat, jika pengguna mengubah atau mengganti setidaknya 25% kata pada teks 400-token dengan sinonimnya, tingkat keberhasilan detektor akan anjlok drastis menjadi hanya 17%.
Karena kelemahan tersebut dan adanya risiko false positive—di mana teks buatan manusia murni bisa salah dituduh sebagai buatan AI—OpenAI memutuskan untuk tidak merilis alat detektornya ke publik umum. Saat ini, akses ke detektor textGrain hanya diberikan secara terbatas kepada organisasi ahli dan peneliti yang disetujui.
Bukan Alat Pelacak Identitas
OpenAI juga memberikan penegasan terkait privasi. Watermark ini dirancang murni hanya untuk menandai rekam jejak konten (content provenance), bukan untuk memata-matai pengguna.
Watermark teks ini tidak akan bisa mengidentifikasi siapa penggunanya, akun apa yang dipakai, atau prompt (perintah) apa yang diketikkan. Selain itu, keberadaan watermark ini tidak mempengaruhi kualitas tulisan yang dihasilkan oleh model AI terbaru mereka, Astra.
"Watermark tidak mengukur kontribusi manusia. Ini dapat menunjukkan bahwa sistem OpenAI menghasilkan atau memproses bagian dari sebuah teks, tetapi tidak menunjukkan seberapa banyak penilaian, pengeditan, atau kreativitas manusia yang dilibatkan di dalamnya," kata OpenAI.