Bagaimana ISIS Gunakan Teknologi AI untuk Propaganda

Sebuah video memperlihatkan sebuah episode kartun komedi Family Guy, di mana karakter utama Peter Griffin mengendarai mobil van berisi bom dengan todongan senjata melewati jembatan.

Adegan itu diambil dari episode "Turban Cowboy", yang ditayangkan pada tahun 2013. Namun, audio yang menyertai video diubah, dengan Peter Griffin, yang biasanya disulihsuarakan oleh pembuat acara Seth MacFarlane, malah menyanyikan lirik tidak lazim.

"Senjata kami berat, pasukan kami banyak, namun tentara Allah lebih dari siap,” dendangnya dengan aksen khas Rhode Island di batas utara Amerika Serikat. Video propaganda tersebut dirilis oleh jejaring Islamic State belum lama ini.

Animasi tersebut jelas bukan lagu satir terbaru MacFarlane, melainkan hanya salah satu ilustrasi bagaimana kelompok ekstremis menggunakan komputasi canggih atau kecerdasan buatan, AI,  untuk membuat konten bagi pengikutnya.

Istilah AI mencakup berbagai teknologi digital yang mencakup pemrosesan data dalam jumlah besar dan cepat atau apa yang dikenal sebagai "AI generatif." Begitulah cara lagu Peter Griffin ini tercipta.

"Demokratisasi pesat teknologi AI generatif dalam beberapa tahun terakhir berdampak besar terhadap cara organisasi-organisasi ekstremis mengelola operasi secara online,” tulis Daniel Siegel, seorang peneliti AS yang menganalisis bagaimana AI digunakan untuk tujuan jahat dalam sebuah artikel untuk Global Jaringan Ekstremisme dan Teknologi.

Aplikasi AI oleh kelompok teror

Selama setahun terakhir, pengamat dari berbagai lembaga riset sudah memantau bagaimana ISIS dan kelompok ekstremis lainnya giat menggunakan perangkat lunak digital terbaru.

Pada bulan Februari, sebuah kelompok yang berafiliasi dengan al-Qaeda mengumumkan akan mulai mengadakan lokakarya AI secara online, lapor The Washington Post. Tidak lama kemudian, kelompok yang sama merilis panduan penggunaan chatbot AI.

Pada bulan Maret, setelah aksi kelompok cabang ISIS menewaskan lebih dari 135 orang dalam serangan teror di Moskow, salah satu pengikut kelompok tersebut membuat siaran berita palsu tentang peristiwa tersebut dan menerbitkannya empat hari setelah serangan.

"Apa yang kita ketahui tentang penggunaan AI saat ini adalah bahwa kecerdasan buatan berfungsi sebagai pelengkap propaganda al-Qaeda dan ISIS,” kata Moustafa Ayad, direktur eksekutif untuk Afrika, Timur Tengah dan Asia di Institute for Strategic Dialogue di London, ISD.

"Hal ini memungkinkan para pendukung dan kelompok pendukung tidak resmi untuk membuat konten emosional yang khusus digunakan untuk menggalang basis pendukung seputar konsep inti.”

Dini mengadopsi teknologi

Ketika ISIS pertama kali muncul sekitar tahun 2014, organisasi teror itu sudah mampu membuat video propaganda dengan kualitas produksi yang tinggi, demi mengintimidasi musuh dan merekrut pengikut.

"Semua ini menunjukkan sesuatu yang terus dipantau oleh ISD,” kata Ayad. "Kelompok teroris dan pendukungnya terus menjadi pengguna awal teknologi untuk memenuhi kepentingan mereka.”

Berbagai lembaga riset telah membuat daftar metode dan modus yang dipakai kelompok ekstremis dalam menggunakan AI. Selain propaganda, mereka juga dapat menggunakan chatbot dari model bahasa besar, seperti ChatGPT, untuk berkomunikasi dengan calon anggota baru, saran para ahli. .

Model AI, seperti ChatGPT, juga memiliki aturan tertentu yang tertulis di sistemnya yang mencegah penyalahgunaan. Namun, peraturan tersebut mudah diakali untuk menyebar konten berbahaya.

Bom palsu vs. bom asli

Dalam makalah tahun 2019 di jurnal "Perspectives on Terrorism,” para peneliti mengkaji hubungan antara seberapa banyak propaganda yang dirilis kelompok ISIS dan serangan teror yang terjadi. "Tidak ada korelasi yang kuat dan dapat diprediksi,” simpul mereka.

"Hal ini mirip dengan diskusi yang kami lakukan tentang senjata siber dan bom siber sekitar 10 tahun lalu,” kata Lilly Pijnenburg Muller, peneliti dan pakar keamanan siber di Departemen Studi Perang di King's College London.

Jangankan AI, saat ini rumor dan video lama pun bisa menimbulkan dampak yang menggoyang stabilitas dan menyebabkan banyak disinformasi di media sosial, katanya kepada DW. "Negara-negara punya bom konvensional yang bisa dijatuhkan, jika itu niat mereka.”

"Saya tidak tahu apakah, pada tahap ini, penggunaan AI oleh organisasi teroris dan pendukungnya lebih berbahaya daripada propaganda nyata dan gamblang yang melibatkan pembunuhan brutal terhadap warga sipil dan serangan terhadap pasukan keamanan,” kata Ayad dari ISD.

"Saat ini, ancaman yang lebih besar adalah dari kelompok-kelompok yang melakukan serangan, menginspirasi aktor tunggal atau berhasil merekrut anggota baru yang ingin merespons lanskap geopolitik, yaitu perang Israel di Gaza sebagai respons terhadap 7 Oktober,” lanjutnya. "Mereka menggunakan kematian warga sipil dan tindakan Israel sebagai alat retorika untuk merekrut dan membangun kampanye.”

rzn/as