Dampak negatif dari kecerdasan buatan, yang telah menyebabkan penyebaran video palsu dan deepfake selebriti di Internet, kini meluas ke anak-anak. Konten pelecehan seksual terhadap anak yang dihasilkan oleh kecerdasan buatan semakin banyak ditemukan di area Internet yang dapat diakses publik.
Menurut A laporan oleh Internet Watch Foundation (IWF) Konten pelecehan seksual terhadap anak-anak yang dihasilkan oleh AI membuat lebih banyak orang terpapar gambar-gambar yang berbahaya dan menakutkan.
Banyak foto dan video yang menggambarkan pelecehan dan eksploitasi terhadap anak-anak sangat realistis sehingga sangat sulit dibedakan dari gambar anak-anak yang sebenarnya, sehingga menurut hukum Inggris, foto dan video tersebut dianggap sebagai konten kriminal, sama seperti konten “tradisional”. materi yang menggambarkan pelecehan seksual terhadap anak.
Baru dalam enam bulan terakhir, analis IWF Kami melihat adanya peningkatan sebesar 6% dalam laporan terkonfirmasi mengenai materi pelecehan seksual terhadap anak yang dihasilkan oleh AI dibandingkan dengan 12 bulan sebelumnya.
IWF memperingatkan bahwa hampir seluruh konten (99%) ditemukan di area Internet yang dapat diakses publik dan tidak disembunyikan di web gelap. Mayoritas laporan berasal dari masyarakat (78%) yang menemukan gambar kejahatan di situs seperti forum atau galeri AI. Dalam kasus lain, analis IWF melakukan pencarian proaktif.
Para analis mengatakan melihat konten buatan AI yang menggambarkan anak-anak dieksploitasi secara seksual bisa sama meresahkannya dengan melihat gambar anak-anak sungguhan yang dilecehkan secara seksual jika seseorang tidak siap atau tidak terlatih dalam menghadapi menonton materi tersebut.
Beberapa materi AI yang menggambarkan pelecehan seksual terhadap anak-anak diklasifikasikan sebagai gambar non-fotografi, seperti kartun, dan juga dianggap berbahaya untuk dilihat dan diberi peringkat yang sesuai oleh analis IWF.
