Banjir Investasi AI di Negara Teluk Rawan Pelanggaran HAM?

Bukan pertama kali Arab Saudi dituduh memanfaatkan teknologi digital untuk memata-matai oposisi, semisal menyusup ke Twitter demi mengidentifikasi musuh pemerintah.

Sebab itu ambisi Saudi dan negara jiran, Uni Emirat Arab, untuk menguasai teknologi kecerdasan buatan memicu kekhawatiran para pegiat HAM. 

"Aplikasi AI semakin meningkat di seluruh dunia dan menawarkan cara baru untuk melanggar hak paling dasar dengan melakukan pengawasan dan manipulasi,” kata Angela Mueller dari lembaga keamanan digital, Algorithm Watch.

"Tentunya ada ancaman bahwa sistem berbasis AI akan malah memperparah ketidakadilan yang ada, terutama jika negara dengan catatan HAM yang buruk, kini mendorong pengembangan AI dengan invesatsi miliaran Dollar AS,” imbuhnya.

Anggaran besar buat aplikasi kecerdasan buatan

Data intelijen teranyar mengindikasikan pengeluaran yang besar di kawasan Teluk untuk teknologi AI. Angka yang dianggarkan bahkan melebihi budget untuk teknologi ini sejumlah negara Eropa. 

Laporan tahunan belanja AI oleh International Data Corporation mencatat, kawasan Timur Tengah membelanjakan USD 3 miliar tahun ini, dan akan meningkat menjadi USD 6,4 miliar pada 2026. Analis memperkirakan, anggaran untuk teknologi AI di kawasan Arab meningkat 30 persen per tahun hingga 2025. 

"Jumlah tersebut menandakan laju pertumbuhan paling cepat di seluruh dunia selama beberapa tahun ke depan,” tulis IDC dalam risetnya.

Jangkauan aplikasi AI mencakup berbagai teknologi digital. Kecerdasan artifisial digunakan untuk pengoalahan data atau disebut "AI generatif".

"Semakin besar daya, jumlah data dan penggunanya, semakin baik pula kinerja AI generatif,” tulis Deutsche Bank dalam sebuah laporannya. "Potensinya mencakup mulai dari seleksi data dan mengenali gambar atau percakapan, hingga mengidentifikasi sentimen pada ragam dokumen dan menciptakan teks, gambar atau kode.”

AI di bawah autoritarianisme

Keunggulan teknologi AI sebabnya mencuatkan kekhawatiran jika dikuasai rejim autoriter dengan catatan panjang pelanggaran HAM. Patut dicatat juga, aplikasi AI di negara-negara Teluk sejauh ini tidak jauh berbeda dengan negara lain, semisal untuk layanan chatbot atau analisa data.

Hal yang dikhawatirkan pegiat hak digital Timur Tengah sebaliknya berpusar pada keamanan data, pengawasan publik, filter dan sensor konten serta propaganda. Terlebih, AI dipercaya akan memperkuat akurasi dalam kemampuan pemerintah membidik warga yang mengikuti aksi demonstrasi atau mogok massal.

Baik UEA atau Arab Saudi sudah merilis panduan etika aplikasi AI. Praktik yang juga lazim di banyak negara lain ini bersifat tidak mengikat dan sebabnya dikritik pegiat hak digital.

"Prinsip etika AI tidak berguna dan gagal memitigasi kerusakan rasial, sosial dan lingkungan dari teknologi kecerdasan buatan,” kata Luke Munn, peneliti kebudayaan digital Australia. Menurutnya, tanpa kerangka hukum yang jelas, aplikasi AI sama sekali tidak bisa diregulasi. "Hasilnya adalah ketimpangan antara prinsip dan praktek.”

Hal senada diungkapkan Iverna McGowan, direktur Pusat Demokrasi dan Teknologi Eropa, CDT.

"Sistem AI membuka celah untuk pelanggaran terhadap hak dasar manusia melalui pengawasan 

Hal senada diungkapkan Mueler dari Algorithm Watch. "Kombinasi antara minimnya transparansi di area-area sensitif dengan potensi dampaknya terhadap hak dasar adalah sangat problematis, terutama di wilayah dengan perlindungan yang minim bagi hak asasi manusia.”

rzn/as