Algoritma sebagai Agen Rekayasa Sosial Internasional

Algoritma sebagai Kekuatan Struktural Transnasional

Dalam era digital kontemporer, algoritma telah bertransformasi dari sekadar perangkat lunak penunjang menjadi kekuatan struktural yang tidak terpisahkan dari kehidupan sehari-hari masyarakat global. Algoritma platform teknologi global, atau dikenal sebagai Big Tech, mengubah cara masyarakat mengakses informasi, berinteraksi, dan bahkan membentuk pola pikir. Khususnya dalam konteks konsumsi informasi, algoritma rekomendasi memainkan peran yang sentral dalam menentukan konten apa yang dilihat dan tidak dilihat oleh miliaran pengguna.

Analisis ini berfokus pada peran algoritma platform besar sebagai Agen Rekayasa Sosial Internasional. Istilah ini merujuk pada sistem yang, terlepas dari tujuan awalnya, secara efektif memengaruhi struktur sosial, politik, dan budaya di berbagai negara secara transnasional. Skala pengaruh ini sangat signifikan, terutama di negara-negara dengan penetrasi media sosial yang tinggi. Sebagai contoh, Indonesia menempati posisi ke-4 sebagai negara dengan pengguna media sosial terbanyak di dunia, dengan populasi pengguna mencapai 167 juta jiwa. Kenyataan bahwa hampir 10% dari populasi tersebut adalah anak di bawah usia 12 tahun, dan mereka dapat menghabiskan rata-rata 5,4 jam per hari di media sosial (khususnya TikTok dan Instagram), menunjukkan betapa dalamnya algoritma telah terintegrasi dan memengaruhi rutinitas harian serta perkembangan kognitif populasi.

Kerangka Kritis: Kekuasaan Algoritma dan Kapitalisme Pengawasan

Untuk memahami dinamika algoritma sebagai agen rekayasa sosial, perlu diterapkan kerangka kritis mengenai kekuasaan dan ekonomi data. Algoritma harus dipahami sebagai instrumen kekuasaan, bukan sekadar perangkat teknis netral. Perspektif kritis dari Michel Foucault, yang membahas hubungan antara kekuasaan dan pengetahuan, dapat diterapkan di sini, di mana algoritma berfungsi sebagai teknologi yang membentuk pengetahuan dan realitas pengguna.

Kekuatan struktural algoritma ini diperkuat oleh model bisnis yang dikenal sebagai Kapitalisme Pengawasan (Surveillance Capitalism), yang dikaji oleh Shoshana Zuboff. Model ini menegaskan bahwa tujuan utama platform Big Tech adalah untuk memaksimalkan keuntungan melalui eksploitasi data perilaku. Dalam desain ini, polarisasi, penyebaran ekstremisme, atau bahkan kekerasan dunia nyata seringkali bukan merupakan tujuan platform, melainkan konsekuensi yang dapat diprediksi dan diizinkan dari desain sistem yang mengejar profit.

Keberadaan algoritma Big Tech yang beroperasi melintasi batas yurisdiksi nasional menciptakan tantangan mendasar terhadap kedaulatan informasi (Algorithmic Sovereignty Challenge). Negara-negara, termasuk Indonesia, menghadapi situasi di mana kontrol atas pembentukan opini publik beralih dari institusi publik atau media tradisional ke entitas swasta global. Keputusan mengenai arus informasi publik dikelola berdasarkan insentif keuntungan perusahaan, yang pada gilirannya menantang legitimasi demokrasi, karena kehendak publik yang seharusnya menjadi sumber legitimasi kini berisiko dimanipulasi oleh ekosistem digital.

Anatomi Polarisasi Sistemik: Desain yang Dioptimasi untuk Konflik

Inti dari peran algoritma sebagai agen polarisasi terletak pada desainnya yang secara fundamental berorientasi pada optimasi keterlibatan (engagement) pengguna.

Keterkaitan Ekonomi Insentif dan Desain Algoritma

Algoritma platform Big Tech dirancang dengan satu tujuan utama: memaksimalkan waktu yang dihabiskan pengguna di platform. Desain ini secara inheren menciptakan insentif ekonomi yang mendorong konten yang memicu emosi kuat. Roger McNamee, dalam analisisnya, menegaskan bahwa masalah struktural ini bukanlah sekadar cacat teknis pada algoritma, melainkan bersumber pada insentif ekonomi di baliknya.

Desain ini melahirkan apa yang disebut Outrage Economy. Algoritma secara sistematis memprioritaskan konten yang provokatif, memicu kemarahan, atau sangat emosional karena konten tersebut terbukti menghasilkan tingkat keterlibatan (engagement) hingga tiga kali lipat lebih tinggi dibandingkan konten netral atau informatif. Prioritas ini menyebabkan konten yang memecah belah dan ekstrem mendapatkan jangkauan yang jauh lebih luas.

Mekanisme Pembentuk Ruang Gema (Echo Chamber) dan Filter Bubbles

Untuk menjaga engagement tetap tinggi, algoritma memanfaatkan kecenderungan psikologis manusia, terutama confirmation bias (kecenderungan untuk menyukai informasi yang sesuai dengan keyakinan yang sudah ada). Algoritma mencapai hal ini melalui proses filtrasi dan isolasi yang menciptakan filter bubble. Dalam kondisi ini, pengguna hanya terpapar pada konten yang selaras dengan pandangan mereka, yang pada gilirannya menciptakan ruang gema (echo chamber) di mana pandangan yang ada terus diperkuat tanpa adanya tantangan dari perspektif yang berbeda.

Data penelitian menunjukkan dampak isolasi ini sangat signifikan. Studi dari Nature (2021) menunjukkan bahwa filter bubble dapat mengurangi paparan pengguna terhadap pandangan yang berbeda hingga 40%. Konsekuensi langsungnya adalah fragmentasi politik yang akut. Sebagai contoh, analisis terhadap pemilih politik di Amerika Serikat (pemilih Trump dan Biden di Twitter/X) menunjukkan bahwa mereka terpapar pada narasi yang berbeda hingga 89% lebih sering. Fragmentasi ini bukan hanya perbedaan pendapat, tetapi menciptakan dua realitas informasi yang terpisah.

Algoritma sebagai Penjaga Gerbang Opini Publik

Ketika algoritma mengelola arus informasi publik, proses pembentukan kehendak publik menjadi tidak lagi wajar. Keberadaan algoritma sebagai penjaga gerbang opini publik menumbuhkan krisis epistemik: Algoritma merusak kemampuan warga negara untuk menyepakati realitas atau isu yang sama, karena setiap kelompok diisolasi dalam pandangan dunia mereka sendiri. Sascha Hardt, seorang pakar hukum tata negara, menekankan bahwa keberagaman argumen adalah syarat mutlak bagi deliberasi publik yang sehat dalam sebuah demokrasi. Ketika algoritma secara sistematis mengurangi paparan pandangan berbeda, fondasi demokrasi deliberatif terkikis.

Manipulasi yang terjadi di ranah digital kini dianggap lebih berbahaya dibandingkan kecurangan pemilu tradisional. Manipulasi psikopolitik terjadi jauh sebelum rakyat memasuki bilik suara, di mana pesan politik dipersonalisasi secara presisi, menarget kelompok tertentu berdasarkan profil psikologis mereka. Ancaman ini secara langsung menyerang dua pilar demokrasi yang diidentifikasi oleh Cass Sunstein: akses masyarakat pada isu yang sama, dan paparan terhadap pandangan yang beragam.

Tabel 2.1 menyajikan ringkasan mekanisme algoritma yang secara sistematis mendorong polarisasi.

Table 2.1: Mekanisme Algoritma Pendorong Polarisasi dan Dampak Kuantitatif

Algoritma dan Ekstremisme: Konsekuensi Kekerasan Dunia Nyata

Dampak paling serius dari algoritma sebagai agen rekayasa sosial transnasional adalah kemampuannya untuk mengamplifikasi ujaran kebencian dan ekstremisme, yang berpotensi memicu kekerasan fisik dan konflik kemanusiaan.

Amplifikasi Ekstremisme dan Konten Berbahaya

Optimasi algoritma untuk engagement secara sistematis menguntungkan konten yang paling ekstrem. Penelitian internal (dikenal sebagai Facebook Files, 2021) mengungkapkan bahwa algoritma secara aktif merekomendasikan grup radikal 64% lebih sering kepada pengguna konservatif. Proses ini secara langsung berkontribusi pada radikalisasi pengguna.

Selain konten yang didorong oleh kelompok radikal, algoritma juga mempercepat penyebaran berita palsu atau hoaks. Hoaks seringkali dirancang untuk memicu emosi tinggi dan disebarkan secara sengaja guna menimbulkan keresahan dan kegaduhan dalam berbagai bidang, termasuk sosial budaya dan politik. Meskipun model Machine Learning seperti BERT dapat digunakan untuk mengklasifikasikan berita hoaks dengan akurasi 76% (dalam satu studi), laju penyebaran yang didorong oleh algoritma platform seringkali melebihi kemampuan intervensi manual atau otomatis.

Studi Kasus Myanmar/Rohingya: Kelalaian Kemanusiaan

Kasus genosida Rohingya di Myanmar menjadi bukti nyata bahwa kegagalan algoritma dapat berakibat pada konsekuensi hilangnya nyawa. Algoritma Facebook secara ekstensif digunakan dan gagal dalam mencegah ujaran kebencian dan hasutan kekerasan yang disebarkan secara viral oleh militer dan ekstremis sipil Myanma.

Menurut laporan PBB (2019), kasus genosida Rohingya dipicu oleh viralnya konten kebencian yang didorong oleh algoritma. Pemilik Facebook, Meta, dituduh lalai dan pengejaran profit yang ceroboh secara substansial berkontribusi pada kekejaman yang dilakukan terhadap masyarakat Rohingya. Akibat kelalaian ini, gugatan class action diajukan di Amerika Serikat dan surat gugatan di Inggris, menuntut kompensasi senilai lebih dari £150 miliar. Para korban menuduh perusahaan media sosial tersebut gagal mencegah hasutan kekerasan. Kasus ini menunjukkan bahwa algoritma Big Tech adalah aktor signifikan dalam konflik geopolitik dan kemanusiaan, yang kegagalan regulasinya di negara-negara yang rentan dapat menyebabkan konsekuensi ekstrem.

Niat vs. Kelalaian yang Disadari (Conscious Negligence)

Diskusi mengenai peran algoritma telah bergeser dari “konsekuensi yang tidak disengaja” menjadi “kelalaian yang disadari.” Kesaksian Frances Haugen, mantan Manajer Proyek tentang Misinformasi Sipil di Facebook dan Spesialis Algoritma, menguatkan pandangan bahwa perusahaan memiliki pengetahuan internal yang jelas tentang bahaya sistemik yang ditimbulkan oleh algoritma mereka. Meskipun memiliki alat untuk menghentikan amplifikasi konten berbahaya, perusahaan memilih untuk “terus berjalan,” menunjukkan insentif ekonomi secara eksplisit mengesampingkan mitigasi risiko sistemik.

Dalam gugatan di San Francisco, korban Rohingya menuduh Facebook “bersedia menukar nyawa orang Rohingya demi penetrasi pasar di negara kecil di Asia Tenggara”. Pernyataan ini menegaskan bahwa, dalam menghadapi pengetahuan tentang bahaya tersebut, platform mengedepankan profit, menjadikan kegagalan algoritma ini bukan lagi sekadar kesalahan teknis, tetapi keputusan strategis korporat.

Rekayasa Budaya Kognitif dan Kesehatan Mental

Rekayasa sosial internasional oleh algoritma tidak terbatas pada ranah politik; ia juga memengaruhi struktur budaya kognitif dan kesehatan mental pengguna, terutama generasi muda.

Pengaruh Algoritma terhadap Budaya Kognitif

Algoritma, khususnya pada platform yang didominasi format video pendek seperti TikTok dan YouTube Shorts, mengoptimalkan konten visual pendek yang cenderung diulang (looping). Penggunaan yang intensif ini telah menjadi rutinitas sehari-hari di Indonesia, menyebabkan kecanduan yang signifikan.

Paparan berlebihan terhadap stimulasi cepat dari video pendek dapat mengakibatkan degradasi kognitif. Dampak negatif yang teridentifikasi meliputi penurunan daya ingat, peningkatan kecemasan, mudah marah, serta potensi buruknya kemampuan membaca dan ketergantungan. Desain algoritma melatih pengguna, khususnya generasi muda, untuk menghargai stimulasi instan dan menghindari narasi yang kompleks atau membutuhkan rentang perhatian yang panjang. Fenomena ini disebut sebagai Internalization of Algorithmic Logic, di mana algoritma secara efektif membentuk struktur kognitif individu, menghasilkan populasi yang lebih rentan terhadap manipulasi politik yang sederhana, emotif, dan hiper-personalisasi.

Dampak Psikososial

Di luar masalah kognitif, algoritma media sosial juga memperkuat dampak negatif pada kesehatan mental pengguna. Algoritma mendorong perbandingan sosial yang intens, di mana anak-anak dan remaja merasa terdorong untuk membandingkan diri dengan kreator populer dan standar hidup yang disajikan secara terfilter, yang dapat memicu kecemasan dan masalah harga diri.

Kemajuan dalam Kecerdasan Buatan (AI) Generatif memperburuk tantangan ini. AI Generatif, seperti bot, berpotensi menciptakan konten hiper-personalisasi pada skala yang belum pernah terjadi sebelumnya. Konten yang disesuaikan secara presisi ini dapat memperkuat AI-driven filter bubbles, memperdalam isolasi kognitif pengguna, dan membuat individu semakin terpisah dari realitas bersama. Manipulasi ini bersifat psikopolitik, yang mengendalikan kebebasan berpikir melalui penyaringan informasi yang sangat detail.

Tata Kelola Digital: Akuntabilitas, Regulasi, dan Kesenjangan Global

Pengakuan bahwa algoritma adalah agen rekayasa sosial global memerlukan respons regulasi transnasional. Saat ini, terdapat kesenjangan signifikan antara kerangka regulasi di negara maju, seperti Uni Eropa, dan negara-negara di Asia Tenggara, seperti Indonesia.

Regulasi Global: Digital Services Act (DSA) Uni Eropa

Uni Eropa telah memimpin dalam upaya regulasi melalui Digital Services Act (DSA), yang bertujuan untuk menciptakan ekosistem digital yang aman dan akuntabel. DSA menetapkan standar yang ketat untuk transparansi algoritmik dan akuntabilitas layanan digital, khususnya bagi platform online yang sangat besar (Very Large Online Platforms – VLOPs).

DSA mewajibkan platform untuk melakukan mitigasi risiko sistemik dan menuntut adanya transparansi algoritmik . Aturan ini mencakup kewajiban pelaporan transparansi yang harmonis dan memastikan Hak atas Penjelasan (right to explanation) bagi pengguna, serta memaksa penyedia layanan untuk menyerahkan pernyataan alasan (statements of reasons) terkait keputusan moderasi konten ke Database Transparansi DSA. DSA menjadi tolok ukur global yang menuntut tanggung jawab teknis dan etis dari Big Tech.

Tantangan Regulasi di Indonesia: Legal Vacuum dan Risiko Bias

Indonesia saat ini menghadapi tantangan regulasi yang besar, khususnya adanya kekosongan hukum (legal vacuum) yang signifikan terkait Kecerdasan Buatan (AI) dan algoritma. Kerangka hukum yang ada, seperti UU Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi (UU PDP), lebih berfokus pada perlindungan data secara umum dan belum cukup spesifik untuk mengatur bagaimana teknologi AI harus digunakan dalam pengambilan keputusan, bahkan di sektor hukum yang menuntut keadilan.

Ketidakhadiran regulasi spesifik menimbulkan masalah serius terkait akuntabilitas dan tanggung jawab. Apabila terjadi kesalahan analisis atau bias algoritma, tidak ada kejelasan mengenai siapa yang harus dimintai pertanggungjawaban—apakah pengembang perangkat lunak, pengguna, atau institusi yang menggunakannya. Selain itu, risiko bias algoritma sangat tinggi karena AI mereproduksi bias yang berasal dari data pelatihan. Dalam konteks sosial dan hukum Indonesia, bias ini berpotensi mengancam prinsip keadilan dan non-diskriminasi.

Kesenjangan regulasi ini menimbulkan risiko Regulatory Arbitrage, di mana platform Big Tech yang menghadapi biaya kepatuhan tinggi di yurisdiksi ketat (seperti UE) secara strategis dapat memindahkan atau meningkatkan fokus pada pasar dengan regulasi lemah. Hal ini memungkinkan mereka untuk terus mengoptimalkan algoritma yang memicu polarisasi dan risiko tanpa sanksi serius, yang secara inheren memperburuk kerentanan sosial di Indonesia.

Selain tantangan domestik, upaya regulasi algoritma di tingkat global juga menghadapi hambatan. Inisiatif multilateral PBB untuk tata kelola AI global ditolak oleh negara adidaya seperti Amerika Serikat yang berargumen bahwa regulasi transnasional dapat berpotongan dengan isu kedaulatan. Kondisi geopolitik ini semakin menekankan pentingnya Indonesia untuk merumuskan solusi mandiri dan regional.

Tabel 5.1 merangkum kesenjangan utama antara standar regulasi global dan kondisi di Indonesia:

Table 5.1: Kesenjangan Regulasi Algoritma: UE (DSA) vs. Indonesia

Kesimpulan

Algoritma platform Big Tech secara efektif berfungsi sebagai Agen Rekayasa Sosial Internasional yang kuat dan berbahaya. Analisis ini menunjukkan bahwa penguatan polarisasi, penyebaran ekstremisme, dan degradasi budaya kognitif bukanlah efek samping yang tidak terduga, melainkan hasil struktural dari ekonomi insentif yang mengutamakan keuntungan (optimasi engagement) di atas kohesi sosial dan keselamatan publik. Bukti kasus Myanmar/Rohingya menunjukkan bahwa kelalaian yang disadari oleh Big Tech dapat memicu kekerasan dunia nyata dan bencana kemanusiaan. Isu ini menuntut respons kebijakan yang mendalam dan terintegrasi untuk menjamin kedaulatan digital dan perlindungan warga negara.

Untuk mengatasi tantangan kedaulatan algoritmik dan mengisi legal vacuum, diperlukan intervensi regulasi yang meniru standar global sambil disesuaikan dengan konteks kerentanan sosial di Asia Tenggara:

1. Pembentukan Otoritas dan Regulasi Spesifik: Diperlukan perumusan Kerangka Hukum AI dan Algoritma (mirip model DSA) yang secara eksplisit mengatur tanggung jawab (akuntabilitas) dan transparansi algoritma. Regulasi ini harus mencakup ketentuan mitigasi risiko sistemik.
2. Audit dan Pengawasan Algoritma Wajib: Mewajibkan platform besar untuk tunduk pada Audit Algoritma Tahunan yang dilakukan oleh badan independen. Audit ini harus meninjau dampak algoritma terhadap polarisasi, penyebaran ekstremisme, dan risiko bias.
3. Penguatan Perlindungan Data Perilaku: Memperketat regulasi penggunaan data perilaku dalam skema hyper-personalization, terutama ketika data tersebut digunakan untuk memanipulasi preferensi atau pilihan politik.
4. Standar Etika Profesi: Mengembangkan pedoman etika yang ketat untuk penggunaan AI dalam pengambilan keputusan di sektor-sektor sensitif (seperti hukum dan pemerintahan) guna mencegah bias dan menjamin prinsip keadilan.

Respons kebijakan harus melampaui sanksi pasif dan menuntut perubahan pada desain produk itu sendiri:

1. Memaksa Design for Safety: Regulator harus memaksa perubahan pada metrik optimasi algoritma: dari maksimalisasi engagement ke prioritas pada information quality, viewpoint diversity, dan societal safety.
2. Intervensi Algoritmik Default: Mengubah pengaturan default pada platform sehingga pengguna secara otomatis terpapar pada keragaman pandangan dan narasi yang kurang ekstrem, bukan hanya konten yang memperkuat confirmation bias mereka.

Untuk membangun ketahanan masyarakat terhadap rekayasa sosial algoritmik, diperlukan investasi besar dalam pendidikan kognitif digital:

1. Peningkatan Literasi Digital Kritis: Pendidikan harus fokus pada pemahaman mendalam tentang mekanisme Filter Bubble, Echo Chamber, dan Outrage Economy, serta cara kerja Kapitalisme Pengawasan.
2. Perlindungan Anak Digital: Penguatan pengawasan algoritma yang menargetkan anak-anak dan integrasi kurikulum deep learning untuk mengatasi dampak negatif video pendek, kecanduan, dan penurunan daya ingat yang disebabkan oleh rutinitas digital yang intens