Heboh Foto Mesum Taylor Swift Rekayasa AI Beredar

Jakarta -

Taylor Swift jadi korban pihak yang menyalahgunakan AI atau kecerdasan buatan. Gambar-gambar cabul yang dihasilkan AI dari penyanyi paling terkenal di dunia itu sempat beredar luas di media sosial. Ini menunjukkan potensi kerusakan oleh teknologi AI, yaitu kemampuan membuat gambar yang terlihat sangat nyata dan merusak.

Gambar palsu Taylor Swift sebagian besar beredar di situs media sosial X, atau Twitter. Foto-foto tersebut menunjukkan dia dalam posisi yang menjurus ke arah seksual dan eksplisit dan telah dilihat puluhan juta kali sebelum dihapus.

Taylor Swift dilaporkan murka dan mempertimbangkan kemungkinan menggugat situs yang bertanggung jawab menghasilkan foto tersebut. "Apakah tindakan hukum akan diambil atau tidak sedang diputuskan tetapi ada satu hal yang jelas, gambar palsu yang dihasilkan AI ini bersifat kasar, menyinggung, eksploitatif dan dilakukan tanpa persetujuan dan/atau sepengetahuan Taylor," kata sumber.

"Lingkaran keluarga dan teman Taylor sangat marah, begitu pula para penggemar. Mereka mempunyai hak untuk itu, dan setiap wanita seharusnya demikian," tambah dia yang dikutip detikINET dari New York Post, Sabtu (27/1/2024).

Insiden ini terjadi saat Amerika Serikat memasuki tahun Pilpres. Kecemasan kian meningkat mengenai bagaimana gambar dan video menyesatkan AI dapat digunakan untuk mendorong upaya disinformasi.

"Ini adalah contoh utama bagaimana AI digunakan untuk berbagai alasan jahat tanpa adanya pembatas yang cukup untuk melindungi publik," kata Ben Decker, analis badan investigasi digital Memetica.

Decker mengatakan eksploitasi alat AI generatif untuk membuat konten yang berpotensi membahayakan yang menargetkan tokoh masyarakat meningkat dan menyebar lebih cepat dari sebelumnya di media sosial. "Perusahaan media sosial tak punya rencana efektif untuk memantau kontennya," katanya.

X, misalnya, telah membuang sebagian besar tim moderasi kontennya dan mengandalkan sistem otomatis dan pelaporan pengguna. Meta juga mengurangi jumlah tim yang menangani disinformasi.

Decker menyebut, bagaimanapun kasus Taylor Swift ini dapat membawa lebih banyak perhatian terhadap isu yang berkembang risiko AI. Fans setia Swifties yang sangat besar mengungkapkan kemarahan di media sosial dan membawa masalah ini ke permukaan.

"Ketika Anda memiliki tokoh-tokoh seperti Taylor Swift yang diincar sebesar ini, mungkin inilah yang mendorong para legislator dan perusahaan teknologi mengambil tindakan," katanya.

Simak Video "Kominfo Sebut SE AI Sifatnya Soft Regulation, Pelengkap UU ITE"
[Gambas:Video 20detik]
(fyk/fay)