Pemerintah Inggris akan mengizinkan perusahaan teknologi dan lembaga amal keselamatan anak untuk secara proaktif menguji alat kecerdasan buatan untuk memastikan mereka tidak dapat membuat gambar pelecehan seksual anak.
Amandemen terhadap RUU Kejahatan dan Kepolisian yang diumumkan pada hari Rabu akan memungkinkan “penguji resmi” untuk menilai model berdasarkan kemampuan mereka dalam menghasilkan materi pelecehan seksual anak (CSAM) ilegal sebelum dirilis.
Menteri Teknologi Liz Kendall mengatakan tindakan tersebut akan “memastikan sistem AI dapat dibuat aman sejak sumbernya” – meskipun beberapa juru kampanye berpendapat masih banyak yang perlu dilakukan.
Hal ini terjadi ketika Internet Watch Foundation (IWF) mengatakan jumlah laporan CSAM terkait AI telah meningkat dua kali lipat selama setahun terakhir.
Lembaga amal tersebut, salah satu dari sedikit lembaga di dunia yang memiliki izin untuk secara aktif mencari konten pelecehan anak secara daring, mengatakan telah menghapus 426 materi yang dilaporkan antara Januari dan Oktober 2025.
Jumlah ini naik dari 199 pada periode yang sama pada tahun 2024, katanya.
Kepala eksekutifnya, Kerry Smith, menyambut baik usulan pemerintah, dan mengatakan bahwa usulan tersebut akan melanjutkan upaya jangka panjangnya untuk memerangi CSAM daring.
“Alat AI telah memungkinkan korban menjadi korban lagi hanya dengan beberapa klik, memberikan penjahat kemampuan untuk membuat materi pelecehan seksual anak yang canggih dan realistis dalam jumlah tak terbatas,” ujarnya.
Pengumuman hari ini bisa menjadi langkah penting untuk memastikan produk AI aman sebelum dirilis.
Rani Govender, manajer kebijakan untuk keselamatan anak daring di NSPCC, menyambut baik langkah-langkah untuk mendorong perusahaan agar memiliki lebih banyak akuntabilitas dan pengawasan terhadap model dan keselamatan anak mereka.
“Tetapi untuk membuat perbedaan nyata bagi anak-anak, ini tidak bisa bersifat opsional,” katanya.
Pemerintah harus memastikan adanya kewajiban wajib bagi pengembang AI untuk menggunakan ketentuan ini sehingga perlindungan terhadap pelecehan seksual anak menjadi bagian penting dari desain produk.
‘Memastikan keselamatan anak’
Pemerintah mengatakan perubahan yang diusulkan pada undang-undang tersebut juga akan membekali pengembang AI dan lembaga amal untuk memastikan model AI memiliki perlindungan memadai terhadap pornografi ekstrem dan gambar intim tanpa persetujuan.
Para pakar dan organisasi keselamatan anak telah sering memperingatkan bahwa alat AI yang dikembangkan, sebagian, menggunakan sejumlah besar konten daring yang luas, digunakan untuk menciptakan gambaran penyiksaan anak-anak atau orang dewasa yang tidak menyetujuinya yang sangat realistis.
Beberapa pihak, termasuk IWF dan lembaga amal keselamatan anak Thorn, mengatakan hal ini berisiko membahayakan upaya pengawasan materi tersebut karena mempersulit identifikasi apakah konten tersebut asli atau buatan AI.
Para peneliti telah menyarankan bahwa ada peningkatan permintaan untuk gambar-gambar ini secara daring, khususnya di web gelap , dan bahwa beberapa di antaranya dibuat oleh anak-anak .
Awal tahun ini, Kementerian Dalam Negeri mengatakan Inggris akan menjadi negara pertama di dunia yang menjadikan kepemilikan, pembuatan, atau pendistribusian alat AI yang dirancang untuk membuat materi pelecehan seksual anak (CSAM) sebagai tindakan ilegal, dengan hukuman hingga lima tahun penjara.
Kendall mengatakan pada hari Rabu bahwa “dengan memberdayakan organisasi tepercaya untuk meneliti model AI mereka, kami memastikan keselamatan anak dirancang ke dalam sistem AI, bukan hanya sekadar tambahan”.
“Kita tidak akan membiarkan kemajuan teknologi melampaui kemampuan kita untuk menjaga anak-anak tetap aman,” katanya.
Menteri Perlindungan Jess Phillips mengatakan tindakan tersebut juga akan “berarti alat AI yang sah tidak dapat dimanipulasi untuk menciptakan materi keji dan lebih banyak anak akan terlindungi dari predator sebagai hasilnya”.
