OpenAI: Israel Pakai AI Buat Bikin Narasi Anti-Hamas hingga Islam Radikal

Warga Israel mengibarkan bendera di gerbang Damaskus di luar Kota Tua Yerusalem, di Yerusalem, Selasa (15/6). Foto: Ronen Zvulun/REUTERS

OpenAI merilis laporan ‘AI and Covert Influence Operations: Latest Trends.’ Di dalam laporan ini, OpenAI menyebut ada kelompok dari Israel menyalahgunakan model AI milik mereka untuk menjelekkan kelompok Hamas hingga mendistribusikan narasi islam radikal.

Kelompok dari Israel ini, memanfaatkan model AI OpenAI untuk meng-generate konten umumnya konten berbasis teks dan disebar di berbagai platform media sosial melalui akun-akun palsu.

Taktik Israel

OpenAI menjuluki operasi AI Israel ini dengan nama ‘Zero Zeno.’ OpenAI pun telah memblokir sejumlah akun dioperasikan dari Israel yang digunakan untuk meng-generate dan mengedit konten tersebut.

Beberapa konten itu tersebar di beberapa platform yakni X (dulu bernama Twitter), Facebook, Instagram, situs web hingga YouTube. OpenAI menuding taktik ini dilancarkan oleh sebuah firma manajemen kampanye politik di Israel bermana STOIC.

“Aktor ancaman Israel sewaan, memposting anti-Hamas, anti-Qatar, pro-Israel, anti-BJP, dan konten pro-Histadrut di internet,” tulis OpenAI dalam laporannya, Kamis (30/5).

“Kami menjulukinya Zero Zeno.”

Temuan OpenAI soal postingan dan akun palsu operasi Zero Zeno. Foto: Dok. OpenAI

Operasi yang dilancarkan dari Israel ini menargetkan audiens di Kanada, AS serta Israel. Konten yang didistribusikan berbahasa Inggris dan Ibrani. Awal Mei lalu, OpenAI menemukan fakta bahwa operasi ini melebar ke negara lain, menargetkan audiens di India.

“Operasi ini menggunakan model kami untuk meng-generate artikel web, komentar di media sosial yang kemudian di-posting di berbagai platform seperti Instagram, Facebook dan X.”

Operasi Zero Zeno juga menggunakan model AI milik OpenAI untuk menciptakan akun palsu termasuk bio di sosial media. Aktor ini tinggal memasukkan berbagai variabel yang dibutuhkan seperti usia, jenis kelamin dan lokasi.

Bukan cuma itu, bahkan aktor ini mencoba memanfaatkan model AI ini untuk melakukan penelitian terhadap orang-orang di Israel yang mengomentari secara terbuka tentang serikat buruh Histadrut.

“Dalam beberapa kasus, kami mengidentifikasi akun palsu ini berkomentar di media sosial di posting-an yang dibuat oleh misi Zero Zeno itu sendiri. Kemungkinan besar (itu digunakan) dalam upaya untuk membangun engagement audiens."

Beruntung posting-an palsu yang diunggah ini tak viral dan memicu perhatian lebih luas. Umumnya netizen telah memahami pola dan bahasa yang dipakai, kental bernuansa bot.

Temuan OpenAI soal postingan dan akun palsu operasi Zero Zeno. Foto: Dok. OpenAI

Banyak dari akun-akun palsu yang dibuat, menggunakan gambar yang diciptakan menggunakan AI versi awal berupa generative adversarial network (GAN). Gambar itu bisa diakses oleh siapa pun dan di-download kapan pun dari internet.

Selain hal di atas, OpenAI juga menelusuri, ternyata ada lebih dari dua akun berbeda yang menggunakan gambar yang sama. Yang membedakan hanyalah nama. Profil palsu yang sama ini membalas posting-an media sosial yang sama.

Temuan OpenAI soal postingan dan akun palsu operasi Zero Zeno. Foto: Dok. OpenAI

Fokus di konflik Gaza

Tentara Israel beroperasi di Jalur Gaza di tengah konflik yang sedang berlangsung antara Israel dan kelompok Islam Palestina Hamas, dalam gambar selebaran yang dirilis pada 21 Januari 2024. Foto: Israel Defense Forces/Reuters

Operasi Zero Zeno terbagi menjadi beberapa topik. Umumnya, topik terkait dengan konflik Gaza dan pertanyaan yang lebih luas tentang hubungan antar-individu Yahudi dan Muslim.

OpenAI juga mencatat, ada konten lain di empat situs, menyamar sebagai aktivis kelompok-kelompok yang fokus pada konflik Gaza serta isu yang lebih luas terkait hubungan antar-individu tersebut.

Keempat konten itu muncul di beberapa situs seperti:

OpenAI tak tinggal diam

Penyalahgunaan model AI ini tidak terbatas dilakukan dari Israel. Ada beberapa aktor di negara lain seperti Rusia, China hingga Iran yang melakukan hal sama untuk ‘menyerang’ pihak tertentu.

OpenAI sendiri telah memantau, menginvestigasi dan menyebarluaskan laporan yang juga berisi tentang indikator ancaman ini ke para stakeholder dan para pelaku industri.

Beberapa telah dilakukan OpenAI untuk melawan penyalahgunaan ini seperti:

Berikut laporan lengkap OpenAI terkait penyalahgunaan model AI mereka: