Geger! Video AI Rasis di TikTok, Google Veo 3 Biang Kerok?

JogloNesia – Gelombang konten AI yang sarat stereotip rasis dan ujaran kebencian tengah membanjiri platform media sosial TikTok, menarik sorotan tajam dari berbagai pihak. Konten-konten video yang meresahkan ini diduga kuat diproduksi menggunakan teknologi kecerdasan buatan mutakhir dari Google, Veo 3.

Fenomena yang meresahkan ini menjadi pusat perhatian setelah dibongkar dalam laporan terbaru oleh Media Matters for America, sebuah organisasi nirlaba pengawas media terkemuka asal AS. Laporan mereka mengungkap bagaimana video-video rasis yang viral di TikTok ini, beberapa di antaranya telah mencapai puluhan juta penayangan, akhirnya dihapus setelah memicu kegaduhan publik.

Meskipun metode pasti produksi video-video bermasalah ini masih diselidiki, Media Matters menemukan sejumlah kesamaan teknis mencolok yang mengarah pada satu kesimpulan kuat: kemungkinan besar semua itu dihasilkan menggunakan Google Veo 3. Model AI video generatif (text-to-video) yang dirilis pada Mei 2025 ini menunjukkan jejaknya dalam hampir setiap klip rasis yang ditemukan.

Baca juga: AI Google Veo 3 Kini Tersedia di Indonesia, Bisa Diakses Tanpa VPN

Menurut penyelidikan Media Matters, nyaris semua video AI rasis yang menyebar di TikTok memiliki durasi 8 detik, yang merupakan batas maksimal durasi video yang dapat dibuat menggunakan Veo 3 saat ini. Bukti semakin menguat dengan ditemukannya watermark “Veo” di sudut layar pada beberapa video, sementara yang lain menyisipkan tagar atau keterangan terkait #Veo3 dalam deskripsi unggahan atau nama pengguna. “Bukti yang ditemukan mencakup panjang video, watermark, serta tagar dan username yang menyebut langsung Veo 3, mengindikasikan bahwa teknologi inilah yang digunakan untuk memproduksi konten tersebut,” tegas Media Matters dalam laporan resminya.

Konten video yang ditemukan secara umum menampilkan stereotip rasis yang merendahkan terhadap komunitas kulit hitam, menggambarkan mereka dengan cara-cara yang melecehkan seperti kriminal, orang tua tidak bertanggung jawab, atau bahkan disamakan dengan hewan. Tidak hanya itu, Media Matters juga menemukan video-video yang menyebarkan stereotip antisemit (negatif terhadap orang Yahudi), menyerang imigran, serta klip yang merujuk pada peristiwa traumatis sejarah seperti Holocaust (pembantaian jutaan orang Yahudi oleh Nazi Jerman) dan kekerasan Ku Klux Klan terhadap warga kulit hitam di AS.

Beberapa video ini bahkan sengaja dirancang dengan gaya “sarkastik” atau satir untuk memancing reaksi dari pengguna TikTok. Ironisnya, banyak komentar di unggahan asli yang justru mengulang atau mendukung stereotip rasis yang ditampilkan, memperparah dampak konten tersebut. Inilah yang diyakini menjadi pemicu viralitas video AI rasis tersebut, mengingat algoritma TikTok yang semakin mendorong video dengan respons pengguna (komentar, like, atau share) tinggi untuk muncul di lebih banyak timeline (For You Page/FYP).

Baca juga: Adu Foto AI Buatan ChatGPT dan Google Gemini, Mana Lebih Realistis?

Pihak TikTok dengan cepat menanggapi laporan ini, mengeklaim telah menghapus sejumlah akun dan video yang teridentifikasi dalam laporan Media Matters. Bahkan, juru bicara TikTok, Ariane de Selliers, menyatakan bahwa sebagian besar akun tersebut telah diblokir sebelum laporan diterbitkan. “Kami secara proaktif menegakkan aturan ketat terhadap ujaran kebencian dan perilaku berbahaya,” kata Ariane de Selliers kepada The Verge. “Akun-akun yang disebutkan telah kami tangani, banyak di antaranya sudah diblokir sebelum laporan ini dipublikasikan,” tambahnya.

Kebijakan TikTok sendiri sangat tegas terhadap konten berbau diskriminasi, dengan pedoman yang menyatakan bahwa platform “tidak merekomendasikan konten yang memuat stereotip negatif terhadap individu atau kelompok dengan atribut yang dilindungi.” Namun, kemunculan video-video semacam ini memunculkan pertanyaan besar mengenai efektivitas sistem moderasi konten otomatis, terutama ketika konten dibuat oleh AI dan diposting dalam skala besar oleh akun-akun anonim atau bot yang sulit dilacak.

Menurut laporan ArsTechnica, kebijakan penggunaan layanan Google (Prohibited Use Policy) jelas melarang penggunaan layanannya untuk mempromosikan ujaran kebencian, pelecehan, perundungan, intimidasi, dan penyalahgunaan. Namun, kenyataannya, semua video yang ditemukan oleh Media Matters tampaknya termasuk dalam satu atau beberapa kategori terlarang ini. Secara teori, Veo 3 seharusnya menolak untuk membuat video semacam itu. Namun, tampaknya celah masih terbuka lebar, terutama ketika AI gagal mengenali makna simbolik atau sindiran dalam perintahnya, seperti penggunaan monyet sebagai ganti manusia atau simbol buah/makanan seperti semangka dan ayam goreng untuk menghina atau merendahkan komunitas kulit hitam, khususnya di AS.

Baca juga: Pernyataan Mengejutkan Bos OpenAI, Jangan Terlalu Percaya ChatGPT

Hingga berita ini ditulis, Google belum memberikan pernyataan resmi terkait dugaan bahwa Veo 3 digunakan untuk membuat konten rasis tersebut, sebagaimana dihimpun KompasTekno dari PCMag, Senin (7/7/2025). Pengamatan lanjutan menunjukkan bahwa video AI rasis serupa juga muncul dalam skala lebih kecil di YouTube dan Instagram. Ini mengindikasikan bahwa penyalahgunaan teknologi AI generatif untuk konten bermasalah bukan hanya tantangan bagi TikTok, melainkan juga bagi industri teknologi secara keseluruhan, menyoroti urgensi akan moderasi AI yang lebih canggih dan etis.

Baca juga: Pendiri Facebook Resmi Bentuk Superintelligence Lab, Isinya Jagoan AI

Meskipun sudah dihapus, Media Matters telah mengompilasi video-video rasis yang viral di TikTok dalam satu video berdurasi sekitar 2 menit 22 detik sebagai bukti dokumentasi. Penting untuk diingat bahwa video tersebut berisi konten rasis dan antisemit, sehingga disarankan untuk menyaksikannya dengan pertimbangan pribadi. Watch it at your own risk!

Baca juga: Cara Pakai Google Veo 3 Tanpa VPN, Sudah Tersedia di Indonesia