Harakatuna.com – Kecerdasan buatan atau yang sering disebut AI biasanya dikenal sebagai alat untuk melawan radikal-terorisme. Banyak pemerintah dan lembaga keamanan menggunakan AI untuk mendeteksi konten radikal di internet, memantau jaringan teroris, atau menyaring informasi berbahaya di media sosial. Gambaran semacam ini memang sudah umum dan sering muncul di berbagai pemberitaan.
Di sisi lain ada bagian yang jarang dibahas secara serius, yaitu bagaimana AI dan algoritma justru dapat mendorong lahirnya paham radikal-teror, memperlebar jurang polarisasi di masyarakat, dan turut berkontribusi pada kekerasan politik. Artikel penelitian karya Joe Burton yang terbit di jurnal Technology in Society tahun 2023 dengan judul “Algorithmic Extremism? The securitization of Artificial Intelligence (AI) and Its Impact on Radicalism, Polarization and Political Violence” dari Lancaster University mencoba mengangkat isu ini dengan sudut pandang yang berbeda dari kebanyakan riset sebelumnya.
Burton mengajak pembaca berpikir bahwa AI dan algoritma sebenarnya adalah produk politik dan sosial, alih-alih cuma perkakas netral yang dipakai negara untuk menjaga keamanan. Teknologi ini lahir dari kebutuhan politik dan sosial tertentu, termasuk sejarah panjang yang penuh muatan rasial dan ketimpangan kekuasaan. Konteks kelahiran inilah yang kemudian memengaruhi cara AI dirancang, digunakan, dan berdampak pada masyarakat luas.
Untuk menjelaskan fenomena tersebut, Burton meminjam kerangka teori sekuritisasi dari Mazhab Kopenhagen dalam studi Hubungan Internasional. Sekuritisasi secara sederhana dapat dipahami sebagai proses ketika aktor politik menggunakan wacana atau narasi tertentu untuk membingkai sesuatu sebagai ancaman besar bagi negara, sehingga langkah luar biasa pun dianggap sah untuk diambil.
Untuk memahami keterkaitan antara AI dan radikal-terorisme, Burton lebih dulu menjelaskan makna radikalisme, polarisasi, dan terorisme itu sendiri. Radikalisme dalam tulisan ini diartikan sebagai proses ketika seseorang atau kelompok mengadopsi keyakinan yang berada di luar norma umum masyarakat, disertai keinginan untuk memutus hubungan dengan tatanan sosial yang ada karena merasa tatanan tersebut mustahil diperbaiki.
Sementara itu polarisasi adalah proses melebarnya jarak sikap politik menuju kutub yang saling berlawanan, sehingga masyarakat terbelah dan sulit menemukan titik temu. Kedua hal ini saling berkaitan erat dengan kekerasan politik, sebab polarisasi yang parah dapat menjadi ladang subur bagi tumbuhnya radikal-terorisme.
Akar Sejarah dan Peran Keamanan dalam Lahirnya AI
Menurut Burton, teknologi informasi termasuk AI memang punya peran penting dalam proses radikalisasi seseorang, walaupun teknologi jarang menjadi faktor tunggal. Berbagai faktor sosial, ekonomi, budaya, dan psikologis biasanya turut bercampur dalam proses tersebut.
Kelompok seperti Al-Qaeda dan ISIS misalnya memanfaatkan ruang digital untuk menyebarkan paham kekerasan, sementara kelompok sayap kanan ekstrem memakai jaringan daring untuk menyerukan narasi bahwa kelompok mayoritas tertentu perlu dilindungi dari ancaman keberagaman budaya. Algoritma media sosial turut berperan mengarahkan perhatian pengguna kepada konten semacam ini, karena sistem rekomendasi cenderung menyodorkan konten yang memicu emosi kuat agar pengguna betah berlama-lama di platform.
Bagian menarik dari tulisan Burton adalah penelusuran sejarah bagaimana AI sejak awal memang lahir dari lingkungan yang penuh muatan keamanan dan militer. Mesin Turing yang dirancang untuk memecahkan kode rahasia Jerman pada Perang Dunia II menjadi cikal bakal ilmu komputer modern, dan penemuan ini lahir dari situasi perang yang sangat genting.
Setelah itu, sepanjang Perang Dingin, lembaga intelijen dan militer seperti DARPA di Amerika Serikat menjadi pendana utama riset kecerdasan buatan. Jejak sejarah semacam ini menunjukkan bahwa perkembangan AI sejak awal memang erat berkelindan dengan kepentingan militer dan intelijen, alih-alih murni untuk kepentingan ilmu pengetahuan.
Selain sejarah militer, Burton juga menyoroti bagaimana budaya populer turut membentuk cara masyarakat memandang AI sebagai ancaman. Film seperti Terminator menggambarkan kecerdasan buatan bernama Skynet yang berujung memusnahkan umat manusia lewat perang nuklir global. Gambaran semacam ini melekat kuat di benak masyarakat dan bahkan memengaruhi cara para pembuat kebijakan militer memikirkan arah pengembangan teknologi masa depan.
Ketakutan yang muncul dari film dan budaya pop ini, digabung dengan komentar tokoh ilmuwan seperti Stephen Hawking yang menyebut AI sebagai ancaman terbesar bagi peradaban manusia, ikut memperkuat narasi bahwa AI perlu dikendalikan lewat pendekatan keamanan yang ketat.
Periode pasca peristiwa 11 September turut menjadi titik penting dalam sejarah sekuritisasi AI. Program pengawasan seperti PRISM di Amerika Serikat memakai proses otomatis untuk menyaring konten terkait terorisme dari data perusahaan teknologi besar. Penggunaan drone dalam operasi militer di Timur Tengah juga semakin lama semakin mengandalkan kecerdasan buatan, mulai dari pengumpulan data hingga pengenalan sasaran.
Burton mencatat bahwa penggunaan drone secara masif ini memang membantu tujuan strategis jangka pendek, tapi di sisi lain memicu trauma berkepanjangan, korban warga sipil, dan efek balas dendam dari kelompok ekstremis yang merasa keluarganya menjadi korban. Efek balas dendam inilah yang justru dapat memperkuat siklus radikalisasi baru.
Isu disinformasi dan operasi psikologis di dunia maya juga menjadi sorotan penting dalam tulisan ini. Burton mengangkat kasus campur tangan Rusia dalam pemilu Amerika Serikat tahun 2016 serta skandal Cambridge Analytica yang menghebohkan dunia. Menurut catatan mantan karyawan Cambridge Analytica bernama Brittany Kaiser, kecerdasan buatan dipakai untuk menganalisis data pemilih dalam jumlah besar, lalu menargetkan iklan secara personal agar memicu reaksi emosional tertentu.
Algoritma di platform seperti Facebook turut dimanfaatkan untuk mengarahkan pengguna kepada berita palsu dan teori konspirasi, termasuk tuduhan tak berdasar terhadap tokoh politik tertentu. Praktik semacam ini efektif memperdalam perpecahan di masyarakat, meski masih ada perdebatan seberapa besar dampaknya terhadap hasil pemilu itu sendiri.
Bias, Data, dan Tanggung Jawab yang Tak Jelas
Kaitan antara AI dan isu rasial juga dibahas cukup panjang oleh Burton. Ia mengutip riset yang menunjukkan bagaimana algoritma media sosial seperti TikTok dapat mengarahkan pengguna kepada kelompok sayap kanan ekstrem, termasuk kelompok yang terlibat dalam kerusuhan di gedung Capitol Amerika Serikat pada awal tahun 2021.
Di sektor penegakan hukum, algoritma yang dipakai untuk memilih juri atau memprediksi lokasi rawan kejahatan sering kali memperkuat bias terhadap kelompok minoritas, sebab data yang dipakai untuk melatih sistem tersebut memang sudah bermasalah sejak awal. Penulis seperti Safiya Noble bahkan menunjukkan bagaimana mesin pencari kerap menampilkan hasil bernuansa rasis ketika mencari informasi terkait orang kulit hitam, sebuah cerminan dari ketimpangan yang sudah mengakar dalam industri teknologi.
Burton kemudian membedah persoalan ini lebih dalam lewat tiga aspek utama, yaitu desain, data, dan penggunaan AI. Pada aspek desain, banyak algoritma dirancang tanpa mempertimbangkan dampak bias rasial secara memadai, apalagi proses perancangannya sering tertutup rapat karena alasan komersial maupun kerahasiaan negara. Pada aspek data, Burton mengingatkan bahwa data yang dipakai untuk melatih AI juga membawa bias yang sudah ada di masyarakat.
Kasus chatbot Tay milik Microsoft menjadi contoh terkenal, ketika chatbot tersebut dengan cepat berubah menjadi rasis dan seksis setelah dijejali data yang sengaja dimanipulasi pengguna internet. Pada aspek penggunaan, sekalipun AI dirancang dan dilatih dengan baik, teknologi ini tetap dapat disalahgunakan lewat penipuan daring, serangan siber, atau operasi disinformasi terorganisir.
Salah satu poin penting yang ditekankan Burton adalah soal tanggung jawab ketika AI menimbulkan dampak buruk. Sistem kontrak yang rumit, pembatasan tanggung jawab hukum, serta kepentingan bisnis dan militer yang besar membuat dampak negatif AI sulit diperbaiki secara cepat.
Burton mengutip pemikir kecerdasan buatan Nick Bostrom yang menyoroti bagaimana orang cenderung lebih suka menyalahkan sistem AI daripada mengakui kesalahan pengambilan keputusan manusia di baliknya. Dampak buruk dari penyalahgunaan AI juga sering baru terlihat dalam jangka panjang, sehingga sulit diantisipasi sejak awal oleh para pembuat kebijakan maupun perancang teknologi itu sendiri.
Di bagian penutup, Burton menegaskan bahwa sekuritisasi AI berjalan dalam banyak arah sekaligus. Negara memakai AI sebagai alat untuk menghadapi ancaman keamanan, tapi pada saat bersamaan AI itu sendiri dibingkai sebagai ancaman eksistensial lewat berbagai narasi media dan budaya populer. Proses saling memengaruhi inilah yang pada akhirnya melahirkan kompetisi geopolitik ketat seputar teknologi AI, termasuk upaya militerisasi yang semakin masif.
Menariknya, Burton juga mencatat munculnya perlawanan dari dalam industri teknologi sendiri, seperti protes karyawan Google terhadap keterlibatan perusahaan dalam proyek drone militer bernama Project Maven, yang menunjukkan bahwa proses sekuritisasi AI juga terus mendapat tantangan dari berbagai pihak.
Membaca tulisan Burton ini mengajak kita untuk lebih kritis memandang teknologi kecerdasan buatan. Selama ini AI sering dianggap sebagai solusi ajaib untuk berbagai persoalan keamanan, mulai dari terorisme hingga pengawasan perbatasan. Padahal di balik klaim tersebut, ada rangkaian proses sosial dan politik yang membuat AI justru dapat memperkeruh polarisasi, memperkuat bias rasial, dan membuka jalan bagi paham radikal-teror untuk berkembang lebih jauh.
Burton mengingatkan bahwa akademisi, pembuat kebijakan, maupun pengembang teknologi perlu memberi perhatian lebih besar pada dampak sosial dan kemanusiaan dari AI, alih-alih cuma soal seberapa canggih atau efisien teknologi tersebut dalam mendeteksi ancaman. Kita memiliki harapan agar AI benar-benar membawa manfaat bagi masyarakat luas, tanpa menambah lapisan baru dari kekerasan dan perpecahan, bisa lebih mudah diwujudkan. []
Leave a Comment