AI generasi menghidupkan kembali warisan mengerikan dari orang-orang fanatik termasuk mantan diktator Jerman Adolf Hitler, ketika pengguna TikTok menggunakan alat AI aplikasi untuk menghidupkan kembali pidato xenofobia dari para pemimpin yang telah lama meninggal.
Fenomena ini baru-baru ini didokumentasikan dalam dua laporan berbeda, salah satunya oleh kelompok pengawas nirlaba Media penting bagi Amerika dan satu lagi dalam penyelidikan oleh Institut Dialog Strategis dan SITE Intelligence Group, diterbitkan oleh Kantor Pos Washington. Keduanya mengungkap jaringan kecil akun yang membuat dan mendistribusikan versi terjemahan pidato Hitler yang di-dubbing dengan AI.
Mengapa remaja menceritakan rahasia mereka kepada orang asing di Internet
Menurut penelitian Media Matters, rekaman audio yang dihasilkan AI telah ditonton jutaan kali, termasuk video yang mengejek pemimpin negara tersebut atau video yang mengubah audio tersebut menjadi meme. Akun-akun lain tampaknya dengan tulus terlibat dalam pembuatan dan pembagian video-video ini, yang terkadang berisi konten yang benar-benar anti-Semit. Video populer yang menggunakan audio tersebut, sering kali diberi gaya suara lambat dan “bergema”, berasal dari April 2024, dan beberapa di antaranya telah diterjemahkan secara salah. Setelah laporan tersebut dipublikasikan, TikTok menghapus akun salah satu pengunggah yang dikenal dan mulai mengalihkan pencarian terkait ke akun tersebut “Fakta tentang Holocaust” sebuah situs web yang mendokumentasikan pembantaian yang dilakukan Hitler terhadap jutaan warga sipil Yahudi, penyandang disabilitas, tahanan politik, kelompok LGBTQ+, dan orang-orang asal Roma.
Itu Kantor Pos Washington melaporkan bahwa kelompok-kelompok fasis terkenal memuji penggunaan kecerdasan buatan untuk menyebarkan propaganda fanatik, mengutip peningkatan jumlah anak muda “pil merah” yang terlibat dalam ujaran kebencian dan komunitas sayap kanan secara online. Para ahli mengatakan kepada publikasi tersebut bahwa mereka khawatir alat moderasi platform, termasuk yang ada di situs Meta dan X, tidak akan mampu mengimbangi penyebaran yang didukung AI.
Cerita terbaik untuk dihaluskan
Kedua laporan mencatat banyaknya sentimen positif di bagian komentar video, dengan beberapa pengguna langsung memuji tokoh sejarah dan politiknya, dan mencatat bahwa banyak video tidak menampilkan peluit supremasi kulit putih yang jelas, sehingga meningkatkan kekhawatiran bahwa pengguna tanpa sadar melakukan radikalisasi. karena isinya.
Upaya serupa untuk menulis ulang warisan tokoh sejarah juga dilakukan di TikTok tahun lalu, didorong oleh kecerdasan buatan. Pada bulan Juni A bocor karena kesalahan versi internal dari alat avatar digital AI baru yang memungkinkan pengguna membuat iklan menggunakan kemiripan dengan pembuat konten menyebabkan tersebarnya beberapa video buatan AI yang menggambarkan avatar yang mengucapkan berbagai retorika supremasi kulit putih, termasuk kutipannya Pertarunganku dan “Surat untuk Amerika” karya Osama bin Laden. Pada tahun 2023, video TikTok mengutip pernyataan yang sama dari bin Ladenterkadang dikaitkan dengan sentimen supremasi kulit putih, menyebabkan kepanikan di berbagai aplikasisementara pengguna mengontekstualisasikan ulang pidato tersebut sebagai perjanjian anti-kekaisaran mengingat pengepungan Israel terhadap warga Palestina di Gaza dan dukungan AS terhadap negara tersebut.
Secara keseluruhan, kelompok pengawas telah mendokumentasikan kejadian berulang-ulang di mana aktor dalam dan luar negeri menyebarkan disinformasi pada aplikasi menggunakan alat generatif kecerdasan buatan, termasuk pemalsuan digital sintetik (atau “deepfake”) terhadap para pemimpin politik. Akun-akun supremasi kulit putih pro-Nazi juga berkembang biak di platform ini, bekerja sama dengan jaringan di situs-situs seperti Telegram untuk meningkatkan konten mereka dalam algoritma media sosial.
Menurut A Laporan dari bulan Juli dari Institute for Strategic Dialogue, terdapat “ratusan” akun pro-Nazi di TikTok, yang secara kolektif mengumpulkan jutaan penayangan. Organisasi tersebut mengatakan perusahaannya tidak bertindak cukup cepat untuk menghentikan penyebarannya.