Duh! Propaganda dan Disinformasi Politik Bisa Dibikin Pakai ChatGPT
Seorang peneliti AI menciptakan sebuah mesin propaganda berbasis AI atau kecerdasan buatan. Mesin ini diciptakan guna menyoroti efek bahaya dari Artificial Intelligence (AI) yang dapat digunakan untuk menciptakan disinformasi.
Peneliti ini mempublikasikan cara kerja AI sebagai mesin propaganda dalam sebuah video di kanal Youtube pribadinya. Ia memilih untuk menggunakan identitas anonim dan menamakan kanal YouTubenya sebagai 'Nea Paw'.
Dikutip detikINET dari Insider, Rabu (6/9/2023) peneliti ini mengaku sebagai seorang profesional dalam bidang keamanan siber.
Proyek mesin propaganda politik ini diberi nama Counter Cloud. Pada kanal YouTube Nea Paw, video tentang bagaimana Counter Cloud bekerja dapat dilihat dalam sebuah video berjudul "CounterCloud - AI powered disinformation experiment" yang sudah ditonton lebih dari delapan ribu kali.
Tujuan dari Counter Cloud adalah menciptakan disinformasi dalam penggunaan teknologi yang didukung oleh Open AI seperti Chat GPT. Nea Paw juga menjelaskan bahwa proyek semacam ini hanya membutuhkan sekitar Rp 6 juta per bulan, yang mana cukup murah untuk pelaku kejahatan yang dapat memanfaatkan disinformasi AI.
Cara Kerja Counter Cloud
Cara kerja Counter Cloud cukup sederhana, hanya dengan memasukkan sebuah artikel pada Chatbot AI, lalu memberi perintah untuk menuliskan artikel tandingannya. Dengan begitu, Chatbot AI akan menawarkan tulisan yang ditulis dengan sudut pandang yang berbeda, bahkan cerita palsu dan propaganda.
Pada video yang diunggah Nea Paw, ia juga menambahkan sebuah modul terpisah yang dinamakan 'Gatekeeper', modul ini selanjutnya akan merespon artikel propaganda yang ada untuk mendukung artikel itu. Konsepnya mirip dengan sistem komentar yang ada pada media sosial seperti Instagram dan Youtube. Gatekeeper pun menciptakan banyak identitas palsu.
Menurut Nea Paw, dalam dua bulan seseorang dapat memiliki mesin AI semacam ini yang sepenuhnya dapat bergerak sendiri untuk menghasilkan konten palsu yang terlihat 90% meyakinkan. Ia juga menjelaskan model ini belum dipublikasi di internet karena alasan terlalu bebas untuk diakses dan kekhawatiran akan penyalahgunaan.
"Begitu jin keluar di internet, tidak ada yang tahu di mana ia akan berakhir," kata Nea Paw dalam video di kanal YouTubenya.
Ancaman Bagi Demokrasi
Selain itu, Nea Paw juga menyebut mesin propaganda seperti Counter Cloud dapat menyebabkan ancaman terhadap sistem demokrasi yang dianut beberapa negara modern. Hal ini dikarenakan kemampuannya untuk menciptakan dan mempercepat disinformasi di internet.
CEO Open AI, Sam Altman juga merespon temuan ini. Menurutnya, hal ini akan menjadi masalah yang cukup krusial dan berdampak besar.
"Persuasi 1:1 yang dipersonalisasi, dikombinasikan dengan media palsu yang sangat meyakinkan, akan menjadi kekuatan yang sangat besar," ungkapnya.
*Artikel ini ditulis oleh Argya D. Maheswara, peserta Program Magang Bersertifikat Kampus Merdeka di detikcom
Simak Video "Jangan Download Aplikasi 'Chat GPT' di HP!"
[Gambas:Video 20detik]
(fyk/fay)
