New York Sahkan UU Larang Chatbot AI Jadi Teman Anak
PerbesarGubernur Negara Bagian New York, Kathy Hochul, menandatangani undang-undang baru yang membatasi penggunaan chatbot kecerdasan buatan (artificial intelligence/AI) bagi anak di bawah umur pada Rabu (28/10). Regulasi ini melarang keras platform AI bertindak sebagai teman maupun pendamping virtual bagi pengguna berusia di bawah 18 tahun.
Langkah New York ini menjadi salah satu kebijakan paling luas di Amerika Serikat dalam membatasi model AI konsumen. Aturan tersebut mewajibkan operator chatbot, seperti OpenAI dengan ChatGPT, untuk memverifikasi usia seluruh pengguna. Operator juga wajib membatasi fitur antarmuka tertentu jika pengguna teridentifikasi belum dewasa.
Undang-undang ini menetapkan chatbot AI tidak boleh memproduksi respons yang membuat pengguna di bawah umur meyakini bahwa AI adalah manusia, hidup, atau memiliki perasaan. Sistem AI juga dilarang mengklaim relasi personal, hubungan profesional, peran figur otoritas, serta dilarang menyajikan jawaban berbentuk opini pribadi.
"Anak di bawah umur tidak akan lagi memiliki akses ke chatbot yang berpura-pura menjadi teman, pacar laki-laki, atau pacar perempuan mereka," ujar Gubernur New York Kathy Hochul dalam upacara penandatanganan undang-undang tersebut, dikutip AFP.
Hochul menegaskan aturan ini sekaligus melindungi data privasi anak. "Chatbot tidak akan lagi dapat menyimpan informasi sensitif tentang kesehatan emosional dan fisik anak di bawah umur," lanjut Hochul.
Kritik industri dan perlindungan pengguna remaja
Meskipun sejumlah negara bagian seperti California telah menetapkan aturan serupa, regulasi New York menggunakan formulasi hukum yang jauh lebih luas sehingga memicu resistansi dari industri teknologi. Kelompok advokasi industri teknologi New York, Tech:NYC, mengkritik ketentuan tersebut karena dinilai menggunakan bahasa yang terlalu ambigu.
"Menjaga keselamatan anak-anak di dunia maya seharusnya tidak berarti memutus akses mereka dari alat-alat yang membantu mereka belajar dan mempersiapkan karier," tulis Tech:NYC dalam pernyataan resminya.
Di sisi lain, organisasi nirlaba Common Sense Media mendukung penuh pengesahan aturan tersebut dan menyebutnya sebagai undang-undang keselamatan AI anak paling kuat di Amerika Serikat.
"Perusahaan AI menawarkan fitur chatbot yang berbahaya, dan bahkan mematikan, bagi anak-anak dan remaja. Sekarang, fitur-fitur berbahaya itu resmi dilarang di New York," tegas CEO Common Sense Media, Jim Steyer, dalam keterangan resminya.
Hingga laporan ini diturunkan, dua pengembang model AI terkemuka, OpenAI dan Anthropic, belum memberikan tanggapan resmi mengenai pengesahan undang-undang di New York tersebut.