Lebih dari 8.000 laporan konten pelecehan seksual anak hasil buatan AI tercatat oleh Internet Watch Foundation hanya dalam beberapa bulan pertama 2025. Naik 14 persen dibanding tahun sebelumnya. Angka itu agaknya yang akhirnya memaksa OpenAI bergerak lebih serius dari sekadar pernyataan publik.
Perusahaan di balik ChatGPT resmi meluncurkan "Child Safety Blueprint", cetak biru strategis yang dirancang untuk mempercepat deteksi, pelaporan, dan investigasi kasus eksploitasi anak yang difasilitasi teknologi AI. Bukan sekadar pembaruan fitur. Ini perombakan pendekatan dari hulu ke hilir.
Tiga pilar utama jadi tulang punggung rencana aksi ini: mendorong revisi regulasi agar cakupan hukum secara eksplisit memasukkan konten pelecehan yang dihasilkan AI; menyempurnakan mekanisme pelaporan agar temuan pelanggaran bisa segera sampai ke penegak hukum tanpa birokrasi berbelit; dan mengintegrasikan sistem pencegahan langsung ke dalam arsitektur AI sejak dini, bukan setelah konten berbahaya sudah kadung beredar.
Untuk itu, OpenAI menggandeng National Center for Missing and Exploited Children (NCMEC), organisasi perlindungan anak Thorn, serta aliansi Jaksa Agung di sejumlah negara bagian Amerika Serikat. Kolaborasi ini mencakup pengembangan alat deteksi yang mampu membedakan gambar asli dan buatan AI, tantangan teknis yang hingga kini belum terpecahkan sepenuhnya. Perusahaan pun mengakui celah yang ada, setidaknya itu yang mereka nyatakan terbuka. Aktor jahat, kata mereka, tahu persis cara memanfaatkannya.
Di sisi implementasi langsung, OpenAI sudah menanamkan sistem prediksi usia berbasis large language model (LLM) ke dalam platform ChatGPT. Sistem ini memindai sejumlah sinyal data untuk memperkirakan umur pengguna secara real-time. Sandy Kunvatanagarn, Head of Public Policy untuk Asia Tenggara di OpenAI, yang ditemui di Jakarta pada Rabu (8/4/2026), menegaskan bahwa pengguna yang terdeteksi berusia di bawah 18 tahun secara otomatis dialihkan ke versi ChatGPT yang lebih aman. "Jika model kami menganggap Anda berusia di bawah 18 tahun, kami akan mengatur semua orang secara default ke model yang lebih aman, versi ChatGPT yang lebih aman," katanya.
Dalam mode aman itu, sejumlah fungsi diblokir: percakapan bermuatan seksual atau kekerasan, pembuatan gambar tertentu, hingga saran yang bisa mendorong perilaku berbahaya. Ketentuan layanan OpenAI sendiri secara eksplisit melarang pengguna di bawah 13 tahun, sementara remaja antara 13 hingga 18 tahun dianjurkan mengakses platform dengan persetujuan atau pengawasan orang tua.
Raghav Gupta, Head of Education Asia Pacific OpenAI, menambahkan bahwa fitur parental control yang diluncurkan beberapa bulan lalu kini bisa menautkan akun orang tua dengan akun anak. Setelah tertaut, orang tua bisa mengaktifkan berbagai kontrol lewat toggle, termasuk membatasi durasi pemakaian dan mengunci akses di jam-jam tertentu lewat fitur "quiet hours".
Tapi konteks hukumnya tidak bisa diabaikan. OpenAI tengah dihajar tekanan dari dua penjuru sekaligus. Di California, sejumlah lembaga hukum mengajukan gugatan yang mengklaim produk seperti GPT-4o punya sifat manipulatif secara psikologis terhadap pengguna muda. Di Florida, sebuah keluarga menggugat OpenAI setelah ChatGPT disebut memberikan instruksi berbahaya kepada remaja 17 tahun. Cukup untuk bikin manajemen tidak bisa tidur nyenyak.
Sepanjang 2025, Amerika Serikat juga sudah mengesahkan Take It Down Act, yang melarang penyebaran citra intim tanpa persetujuan, termasuk hasil rekayasa AI. Perusahaan media sosial punya tenggat hingga Mei 2026 untuk menerapkan mekanisme penghapusan konten tersebut.
Pertanyaannya sederhana: apakah cetak biru ini cukup, atau ini dokumen niat yang butuh bertahun-tahun untuk berwujud di lapangan? Entah kebetulan atau tidak, peluncurannya bertepatan persis dengan memanasnya tekanan hukum dari dua penjuru tadi.