Mengapa ChatGPT Absen dari Daftar 22 Platform Beresiko Bagi Anak

Ilustrasi ini dibuat dengan bantuan ChatGPT.

Pada bulan September 2026, Kementerian Komunikasi dan Digital (Komdigi) merilis daftar 22 Produk, Layanan, dan Fitur (PLF) yang dikategorikan berprofil risiko tinggi bagi anak di Indonesia. Daftar ini mencakup platform seperti Telegram, Discord, YouTube, X (Twitter), hingga sejumlah aplikasi game dan e-commerce seperti Lazada dan Blibli (Kompas, 2026). Yang menarik perhatian publik adalah ketidakhadiran ChatGPT, dimana layanan kecerdasan buatan (AI) generatif tersebut yang justru baru saja ditetapkan sebagai Very Large Online Search Engine (VLOSE) di Uni Eropa berdasarkan Regulation (EU) 2022/2065 mengenai The Digital Services Act (DSA).

Pertanyaan yang muncul adalah mengapa di Indonesia ChatGPT belum masuk dalam kategori platform berisiko tinggi untuk anak, padahal di Eropa layanan ini kini berada di bawah pengawasan ketat karena potensi dampaknya terhadap minors (anak di bawah umur)? Jawaban atas pertanyaan ini tidak hanya menyangkut perbedaan metodologi penilaian risiko, tetapi juga mencerminkan perbedaan paradigma regulasi, prioritas kebijakan, serta tahap kematangan ekosistem digital antara Indonesia dan Uni Eropa.

Dasar Hukum dan Metodologi Penilaian Risiko di Indonesia

Penetapan 22 PLF berisiko tinggi oleh Komdigi merupakan bagian dari evaluasi enam bulan atas implementasi peraturan pelaksanaan dari Peraturan Pemerintah Nomor 17 Tahun 2025 tentang Tata Kelola Penyelenggaraan Sistem Elektronik dalam Perlindungan Anak (PP TUNAS). Regulasi ini menjadi landasan hukum utama bagi pemerintah Indonesia dalam mengatur tanggung jawab Penyelenggara Sistem Elektronik (PSE) terhadap keselamatan anak di ruang digital.

Proses penilaian dilakukan melalui mekanisme self-assessment oleh PSE, yang kemudian diverifikasi oleh Komdigi. Hasil verifikasi mengklasifikasikan PLF ke dalam dua kategori: risiko rendah dan risiko tinggi. Klasifikasi ini penting karena semakin tinggi profil risiko suatu layanan, semakin kuat pula langkah perlindungan yang wajib diterapkan oleh PSE.

Hingga akhir September 2026, sebanyak 252 PLF dari 94 PSE telah menyelesaikan self-assessment berdasarkan Keputusan Menteri Komunikasi dan Digital Nomor 219 Tahun 2026 tentang Perubahan Atas Keputusan Menteri Nomor 142 Tahun 2026 tentang Indikator Penilaian yang Menunjukkan PLF yang Mungkin Digunakan atau Diakses oleh Anak, Petunjuk Teknis Penilaian Tingkat Risiko Berdasarkan Aspek dan Indikator, dan Tata Cara Verifikasi Terhadap Hasil Penilaian Mandiri. Dari jumlah tersebut, Komdigi telah memverifikasi 60 PLF, dengan hasil 38 PLF berisiko rendah dan 22 PLF berisiko tinggi (Kompas, 2026). Sayangnya, ChatGPT tidak termasuk dalam 60 PLF yang diverifikasi, apalagi dalam 22 PLF berisiko tinggi.

Ada beberapa kemungkinan alasan mengapa ChatGPT belum masuk dalam daftar ini. Pertama, OpenAI sebagai penyedia ChatGPT mungkin belum mendaftar atau menyampaikan self-assessment kepada Komdigi. Kedua, meskipun ChatGPT digunakan secara luas di Indonesia, jumlah pengguna aktif bulanan di bawah umur 16 tahun mungkin belum mencapai ambang batas yang dianggap signifikan secara statistik untuk dikategorikan berisiko tinggi. Ketiga, dan yang paling penting, metodologi penilaian risiko di Indonesia tampaknya lebih berfokus pada platform yang secara eksplisit memfasilitasi interaksi sosial, konten buatan pengguna (user-generated content), atau transaksi komersial, dan bukan pada layanan AI generatif yang bersifat responsif terhadap prompt individu.

Perbedaan Paradigma: Indonesia vs Uni Eropa

Di Uni Eropa, penetapan ChatGPT sebagai VLOSE berdasarkan DSA didasarkan pada kriteria kuantitatif yang jelas: layanan tersebut melaporkan memiliki rata-rata 45 juta atau lebih pengguna bulanan di wilayah Uni Eropa. Dengan angka mencapai 159,1 juta pengguna bulanan (hanya untuk fitur pencarian), ChatGPT otomatis masuk dalam kategori very large VLOSE dan karenanya wajib mematuhi kewajiban tambahan seperti penilaian risiko sistemik, mitigasi dampak terhadap anak, serta audit kepatuhan independen.

DSA menggunakan pendekatan berbasis skala dan dampak sistemik. Artinya, begitu sebuah layanan mencapai ambang pengguna tertentu, ia dianggap memiliki potensi risiko yang signifikan terhadap hak-hak dasar, proses demokrasi, kesehatan mental, dan keselamatan anak, dimana hal tersebut tanpa perlu membuktikan secara empiris bahwa risiko tersebut telah terjadi. Pendekatan ini bersifat preventif dan struktural.

Sebaliknya, PP TUNAS di Indonesia tampaknya mengadopsi pendekatan yang lebih reaktif dan berbasis bukti empiris. Penilaian risiko dilakukan setelah layanan beroperasi dan berdasarkan laporan self-assessment dari PSE itu sendiri. Selain itu, fokus utama PP TUNAS adalah pada platform yang secara langsung memfasilitasi interaksi antar-pengguna atau penyebaran konten yang dapat diakses secara massal oleh anak, seperti media sosial, aplikasi pesan instan, platform video, dan game daring.

ChatGPT, sebagai layanan AI generatif, tidak secara langsung memfasilitasi interaksi sosial antar-pengguna. Setiap sesi percakapan bersifat privat antara pengguna dan sistem. Tidak ada fitur feed, comment, share, atau like yang memungkinkan konten menyebar secara viral. Dari perspektif regulator Indonesia, ini mungkin membuat ChatGPT tampak “lebih aman” dibandingkan platform seperti TikTok atau Discord, di mana anak dapat terpapar konten berbahaya, perundungan siber, atau kontak dengan orang asing secara langsung.

Risiko Unik AI Generatif yang Mungkin Terlewat

Meskipun demikian, ketidakhadiran ChatGPT dari daftar berisiko tinggi tidak berarti layanan ini bebas dari potensi bahaya bagi anak. Literatur akademis dan analisis kebijakan di Uni Eropa justru menyoroti sejumlah risiko unik yang ditimbulkan oleh AI generatif terhadap anak, antara lain:

Konten yang dipersonalisasi namun berbahaya: ChatGPT dapat menghasilkan respons yang tampak otoritatif namun mengandung misinformasi medis, saran self-harm, atau konten seksual eksplisit jika prompt dirancang untuk mengelabui filter keamanan.

Ketergantungan emosional: Antarmuka percakapan yang ramah dan responsif dapat menciptakan ilusi hubungan interpersonal, berpotensi memicu ketergantungan emosional pada anak, terutama mereka yang rentan secara psikologis.

Erosi literasi informasi: Karena ChatGPT menyajikan jawaban tunggal yang sintetik, bukan daftar sumber yang dapat diverifikasi, anak mungkin kehilangan kemampuan kritis untuk mengevaluasi kebenaran informasi.

Pelanggaran privasi: Anak mungkin tanpa sadar membagikan data pribadi sensitif selama percakapan, yang kemudian dapat disimpan atau digunakan untuk pelatihan model di masa depan.

Risiko-risiko ini tidak selalu terlihat dalam metrik tradisional seperti “jumlah laporan konten ilegal” atau “frekuensi interaksi antar-pengguna”, yang mungkin menjadi dasar penilaian Komdigi. Namun, dalam jangka panjang, dampak kumulatifnya terhadap perkembangan kognitif, emosional, dan sosial anak bisa sangat signifikan.

Implikasi Kebijakan dan Rekomendasi

Ketidakhadiran ChatGPT dari daftar 22 PLF berisiko tinggi bukan berarti Indonesia boleh abai. Sebaliknya, ini justru menjadi momentum untuk merefleksikan apakah kerangka penilaian risiko saat ini sudah cukup futuristik untuk menghadapi gelombang teknologi AI generatif yang semakin masif.

Beberapa langkah yang dapat dipertimbangkan adalah sebagai berikut:

Memperluas definisi “risiko” dalam PP TUNAS untuk mencakup tidak hanya risiko interaksi sosial dan konten massal, tetapi juga risiko algoritmik, personalisasi ekstrem, dan manipulasi kognitif yang khas pada AI generatif.

Mewajibkan self-assessment bagi semua PSE yang menyediakan layanan AI generatif, terlepas dari jumlah pengguna, mengingat sifat teknologi yang cepat berkembang dan sulit diprediksi dampaknya.

Mengadopsi pendekatan berbasis kapasitas (capability-based) seperti dalam EU AI Act, yang menilai risiko berdasarkan kemampuan teknis model AI dan bukan hanya berdasarkan jumlah pengguna atau jenis interaksi.

Memperkuat kolaborasi dengan peneliti dan lembaga independen untuk memantau dampak penggunaan AI generatif terhadap anak melalui studi longitudinal dan akses data terbatas (data access for research).

Penutup

ChatGPT mungkin belum masuk dalam daftar platform berisiko tinggi untuk anak di Indonesia karena perbedaan metodologi, prioritas regulasi, dan karakteristik teknis layanan. Namun, ketidakhadiran ini tidak boleh diartikan sebagai ketiadaan risiko. Di tengah percepatan adopsi AI generatif di kalangan anak dan remaja, Indonesia perlu segera menyesuaikan kerangka penilaian risikonya agar tidak tertinggal dalam melindungi generasi muda di era digital.

Regulasi yang baik bukan hanya yang merespons masalah yang sudah terjadi, tetapi juga yang mampu mengantisipasi bahaya yang belum sepenuhnya terlihat. Dalam hal ini, pelajaran dari Uni Eropa, meski tidak semuanya dapat dicontoh, patut menjadi bahan refleksi serius bagi pembuat kebijakan di Indonesia.