Instagram Batasi Jangkauan Akun AI Influencer
PerbesarInstagram memperketat aturan terhadap akun yang menampilkan sosok manusia atau karakter buatan Artificial Intelligence (AI) tanpa memberikan informasi yang jelas kepada pengguna. Platform milik Meta tersebut akan meningkatkan pengawasan terhadap profil semacam itu dan berpotensi mengurangi jangkauan kontennya jika pemilik akun tidak mencantumkan label yang menunjukkan bahwa sosok di dalamnya dibuat menggunakan AI.
Kebijakan ini diterapkan di tengah meningkatnya kekhawatiran pengguna terhadap akun sintetis yang memiliki tampilan sangat mirip dengan manusia nyata. Kondisi tersebut membuat pengguna semakin sulit membedakan antara figur asli dan karakter yang sepenuhnya dihasilkan komputer.
Melalui sistem pelabelan baru, Instagram ingin memberikan informasi yang lebih jelas kepada pengguna sekaligus mengurangi potensi penyalahgunaan teknologi generatif di platformnya.
Instagram Ganti Label Menjadi "AI-Generated Profile"
Instagram mengubah nama label AI creator menjadi AI-generated profile. Perubahan tersebut dimaksudkan agar pengguna lebih mudah memahami bahwa sebuah akun menampilkan sosok yang dibuat atau dimodifikasi secara signifikan menggunakan teknologi AI generatif.
Label ini terutama ditujukan untuk profil yang menggunakan karakter buatan AI sebagai sosok utama dalam akun mereka. Namun, tidak semua penggunaan AI pada konten Instagram akan mendapatkan label tersebut.
Instagram tidak mewajibkan label AI-generated profile bagi kreator yang hanya menggunakan AI untuk melakukan penyuntingan ringan, seperti meningkatkan kualitas foto, membantu menulis atau menyempurnakan caption, membuat elemen desain, maupun melakukan perubahan kreatif sederhana.
Dengan demikian, fokus kebijakan ini adalah akun yang menggunakan AI untuk menciptakan sosok atau identitas manusia secara substansial, bukan penggunaan AI sebagai alat bantu dalam proses produksi konten.
Maraknya Influencer Buatan AI
Pembaruan tersebut muncul ketika akun dan influencer virtual berbasis AI semakin banyak ditemukan di media sosial. Sejumlah investigasi sebelumnya mengungkap bagaimana karakter buatan AI dapat digunakan untuk mempromosikan produk maupun layanan kepada pengguna sungguhan.
Dalam salah satu kasus, jaringan influencer pria berbasis AI digunakan untuk mempromosikan aplikasi kencan Goose di Instagram. Beberapa akun bahkan dilaporkan mengirimkan pesan langsung atau direct message kepada pengguna untuk mengarahkan mereka agar mendaftar ke layanan tersebut.
Penggunaan karakter sintetis juga ditemukan dalam bidang yang jauh lebih sensitif, termasuk kesehatan.
Investigasi lain menemukan ratusan akun yang mengaku sebagai dokter, penyembuh spiritual, atau ahli kesehatan, padahal sosok yang ditampilkan dibuat menggunakan AI. Akun-akun tersebut kemudian digunakan untuk mempromosikan suplemen dan menyampaikan berbagai klaim kesehatan yang tidak memiliki dasar memadai.
Fenomena tersebut menjadi persoalan serius karena pengikut dapat mengira bahwa informasi yang mereka terima berasal dari tenaga medis atau profesional kesehatan sungguhan.
Instagram Ingin Pengguna Mengetahui Identitas Sosok yang Diikuti
Instagram mengatakan kebijakan tersebut dibuat berdasarkan masukan dari pengguna. Menurut perusahaan, masyarakat berhak mengetahui apakah sosok yang mereka lihat di sebuah profil merupakan manusia sungguhan atau karakter yang sepenuhnya dihasilkan AI.
"Seiring dengan kecerdasan buatan generatif yang menjadi bagian lebih besar dari cara orang berkreasi, kami mendengar bahwa pengguna tidak suka melihat profil yang tampak seperti manusia, hanya untuk kemudian mengetahui bahwa orang yang ditampilkan tersebut sepenuhnya dihasilkan oleh AI," kata Instagram.
Perusahaan menambahkan bahwa pengguna ingin mendapatkan informasi yang jelas ketika sebuah profil menampilkan sosok buatan AI. Dengan sistem label tersebut, Instagram berupaya memberikan konteks kepada pengguna sebelum mereka berinteraksi dengan atau mempercayai sebuah akun.