Algoritma Kebencian: Peran Media Sosial dalam Genosida Modern

Fenomena transformasi digital yang telah mendefinisikan abad ke-21 membawa janji akan keterhubungan global dan demokratisasi informasi, namun realitas sosiopolitik menunjukkan sisi gelap yang jauh lebih destruktif. Media sosial, yang awalnya dirancang sebagai instrumen untuk membangun komunitas dan memfasilitasi pertukaran ide secara bebas, telah berevolusi menjadi katalisator utama bagi kekerasan massal, pembersihan etnis, dan genosida di berbagai belahan dunia. Mekanisme inti yang mendasari transformasi ini adalah “Algoritma Kebencian”—sebuah sistem komputasi yang dirancang untuk memaksimalkan keterlibatan pengguna demi profitabilitas, namun secara sistematis memperkuat narasi dehumanisasi, disinformasi, dan polarisasi ekstrem. Dalam konteks genosida modern, platform digital bukan lagi sekadar wadah pasif; mereka telah menjadi aktor aktif yang menentukan kecepatan dan skala kekerasan di dunia nyata.

Krisis kemanusiaan yang melibatkan etnis Rohingya di Myanmar, perang saudara di Ethiopia, hingga kekerasan massa di India dan Sri Lanka, menunjukkan pola yang konsisten di mana algoritma platform “memanen” kemarahan publik dan mendistribusikannya secara eksponensial. Penyelidikan oleh Perserikatan Bangsa-Bangsa (PBB) dan berbagai organisasi hak asasi manusia internasional secara tegas menyimpulkan bahwa kegagalan sistemik perusahaan teknologi dalam memoderasi konten dan desain algoritma yang memprioritaskan sensasionalisme telah memberikan kontribusi “signifikan” dan “menentukan” terhadap terjadinya kekejaman massal. Hal ini memicu perdebatan mendalam mengenai tanggung jawab moral perusahaan teknologi global dan kebutuhan mendesak akan regulasi internasional yang mampu menyeimbangkan inovasi digital dengan perlindungan hak asasi manusia yang paling fundamental.

Arsitektur Digital dan Mekanisme Amplifikasi Kebencian

Memahami bagaimana media sosial memicu genosida memerlukan analisis mendalam terhadap arsitektur teknis dan model bisnis yang mendasarinya. Platform media sosial seperti Facebook, Instagram, dan TikTok beroperasi dalam ekosistem “ekonomi atensi,” di mana mata uang utamanya adalah waktu dan keterlibatan pengguna. Untuk memaksimalkan pendapatan iklan, platform menggunakan algoritma rekomendasi yang sangat canggih untuk menyajikan konten yang paling mungkin memicu reaksi dari pengguna. Masalah mendasar muncul karena secara psikologis, manusia lebih cenderung bereaksi terhadap konten yang memicu emosi kuat seperti rasa takut, kemarahan, dan kebencian terhadap kelompok luar (out-group).

Optimalisasi Keterlibatan dan Metrik Interaksi Sosial

Pada tahun 2018, Meta (saat itu Facebook) memperkenalkan perubahan algoritma yang memprioritaskan “Meaningful Social Interactions” (MSI). Meskipun secara permukaan perubahan ini dimaksudkan untuk meningkatkan interaksi antar individu, dalam praktiknya, sistem ini memberikan bobot lebih pada unggahan yang memicu komentar banyak dan reaksi emosional, termasuk penggunaan emoji “marah”. Di wilayah yang sedang mengalami ketegangan etnis, unggahan yang berisi ujaran kebencian dan dehumanisasi secara alami menarik banyak interaksi, baik dari pendukung maupun penentang, yang kemudian ditafsirkan oleh algoritma sebagai konten “berkualitas tinggi” yang layak disebarkan ke audiens yang lebih luas.

Mekanisme ini menciptakan apa yang disebut oleh para ahli sebagai “Prisma Digital” yang mendistorsi identitas, memperkuat ekstremisme, dan memarjinalkan suara-suara moderat. Data dari Amnesty International menunjukkan bahwa di Myanmar, lebih dari 70% penayangan video yang menghasut kekerasan terhadap Rohingya berasal dari algoritma rekomendasi platform, bukan dari pencarian aktif pengguna. Ini membuktikan bahwa platform secara proaktif mempromosikan kebencian sebagai bagian dari desain sistemik mereka untuk mempertahankan perhatian pengguna.

Genosida Rohingya: Kegagalan Moral di Myanmar

Kasus Myanmar sering kali dipandang sebagai “momen titik balik” dalam sejarah media sosial dan hak asasi manusia. Di negara ini, Facebook tumbuh secara eksponensial setelah berakhirnya kediktatoran militer, didorong oleh program “Free Basics” yang memberikan akses gratis ke platform tersebut. Akibatnya, bagi sebagian besar penduduk Myanmar, “Facebook adalah Internet,” dan informasi yang beredar di sana dianggap sebagai kebenaran mutlak tanpa adanya sumber pembanding yang memadai.

Kampanye Disinformasi yang Terorganisir

Militer Myanmar (Tatmadaw) memanfaatkan dominasi Facebook untuk melancarkan perang psikologis yang sangat terorganisir terhadap minoritas Muslim Rohingya. Personel militer menggunakan ratusan akun palsu dan halaman hiburan untuk menyebarkan disinformasi yang menggambarkan Rohingya sebagai penjajah asing yang mengancam kedaulatan negara dan agama Buddha. Narasi dehumanisasi ini mencapai tingkat yang mengerikan, di mana Rohingya secara rutin disebut sebagai “anjing,” “belatung,” dan “binatang” yang harus “dimusnahkan” atau “diberi makan babi”.

Penyelidikan PBB menemukan bahwa ujaran kebencian di Facebook memainkan peran “menentukan” dalam menciptakan suasana yang memungkinkan terjadinya pembunuhan massal, perkosaan sistematis, dan pembakaran desa-desa di Negara Bagian Rakhine pada tahun 2017. Kegagalan Facebook untuk bertindak meskipun telah diperingatkan selama bertahun-tahun oleh aktivis lokal menunjukkan pengabaian yang disengaja. Pada masa puncak krisis, perusahaan tersebut dilaporkan hanya memiliki sedikit sekali moderator yang fasih berbahasa Burma dan tidak ada yang fasih dalam dialek lokal lainnya, sehingga konten yang menghasut kekerasan tetap aktif selama berminggu-minggu.

Dampaknya di dunia nyata sangat menghancurkan. Penduduk desa yang sebelumnya hidup berdampingan secara damai dengan tetangga Rohingya mereka mulai terpengaruh oleh disinformasi digital yang terus-menerus. Rasa takut akan “invasi Muslim” yang dipicu oleh unggahan viral mengubah warga sipil menjadi pelaku kekerasan atau penonton yang pasif saat militer melakukan operasi pembersihan. Kasus ini menegaskan bahwa algoritma kebencian mampu meruntuhkan kohesi sosial dalam waktu singkat jika tidak ada intervensi yang memadai.

Ethiopia: Tragedi yang Berulang di Afrika Timur

Dua tahun setelah kegagalan di Myanmar, tragedi serupa terulang di Ethiopia selama konflik di wilayah Tigray (2020-2022). Meskipun Meta mengklaim telah belajar dari kesalahan masa lalu, laporan dari Amnesty International dan kesaksian whistleblower Frances Haugen mengungkapkan bahwa platform tersebut kembali “mengipas-ngipasi kekerasan etnis” di Ethiopia. Algoritma Facebook dituduh mempercepat penyebaran konten yang menghasut kebencian terhadap etnis Tigrayan, yang berkontribusi pada kematian ratusan ribu orang akibat konflik dan blokade kemanusiaan.

Kematian Profesor Meareg Amare dan Kegagalan Moderasi

Salah satu bukti paling nyata dari dampak mematikan algoritma ini adalah kasus Profesor Meareg Amare, seorang akademisi kimia yang menjadi target kampanye fitnah di Facebook. Unggahan di halaman “BDU STAFF” yang memiliki 50.000 pengikut secara eksplisit menyebut nama, foto, dan alamat rumah sang profesor, serta menuduhnya sebagai agen pemberontak. Meskipun putranya, Abrham Meareg, melaporkan unggahan tersebut berulang kali sebagai ancaman keamanan jiwa, Meta gagal menghapus konten tersebut tepat waktu. Profesor Amare ditembak mati oleh milisi bersenjata di depan rumahnya pada November 2021; konten yang memicu pembunuhannya baru dihapus delapan hari setelah kematiannya.

Kegagalan ini berakar pada ketidakmampuan teknis dan pengabaian sumber daya di Global South. Di negara dengan 85 bahasa seperti Ethiopia, Meta dilaporkan hanya memantau empat bahasa utama, meninggalkan sebagian besar penduduk tanpa perlindungan moderasi sama sekali. Lebih parah lagi, sistem otomatis (AI) Meta sering kali “buta” terhadap dialek lokal dan gagal mendeteksi kata-kata sandi yang digunakan untuk menghasut kekerasan. Dokumen internal menunjukkan bahwa pimpinan perusahaan secara pribadi melakukan intervensi untuk menghentikan langkah-langkah mitigasi risiko di Ethiopia karena khawatir akan menurunkan angka keterlibatan pengguna (engagement metrics).

Dinamika India dan Sri Lanka: Pesan Instan sebagai Senjata

Di Asia Selatan, ancaman genosida modern dan kekerasan massa juga difasilitasi oleh platform pesan instan terenkripsi seperti WhatsApp, yang menciptakan tantangan unik karena sifat komunikasinya yang privat namun mampu menyebar secara viral. Di India dan Sri Lanka, rumor yang disebarkan melalui grup WhatsApp telah memicu gelombang kekerasan terhadap minoritas Muslim, sering kali dengan dukungan atau pembiaran dari aktor politik nasionalis.

Fenomena “WhatsApp Lynchings” di India

Sejak tahun 2014, India telah menyaksikan peningkatan tajam dalam insiden pembunuhan oleh massa (lynchings) yang dipicu oleh informasi palsu yang beredar di WhatsApp. Rumor mengenai penculikan anak, perdagangan organ, atau penyembelihan sapi (isu yang sangat sensitif bagi kelompok mayoritas Hindu) menyebar seperti api di grup-grup lokal. Penelitian oleh London School of Economics (LSE) menunjukkan bahwa penyebaran disinformasi ini bukan sekadar masalah literasi digital, melainkan sering kali merupakan ekspresi dari prasangka ideologis yang mendalam dan keinginan untuk menegakkan supremasi kelompok mayoritas.

Aktor politik sering kali memanfaatkan infrastruktur digital ini untuk memperkuat agenda mereka. Laporan investigasi menunjukkan adanya kolusi antara platform media sosial besar dan tokoh politik dari partai penguasa di India, di mana konten ujaran kebencian dari politisi pro-pemerintah sering kali dibiarkan tetap aktif demi menjaga hubungan bisnis dan akses pasar. Hal ini menciptakan lingkungan di mana pelaku kekerasan merasa mendapatkan perlindungan politik, sementara korban minoritas kehilangan akses terhadap keadilan.

Kasus Sri Lanka 2018: Dari Rumor ke Darurat Nasional

Di Sri Lanka, kekerasan anti-Muslim pada tahun 2018 dipicu oleh desas-desus viral tentang “pil sterilisasi” yang diklaim dicampurkan ke dalam makanan oleh pengusaha Muslim untuk menekan populasi mayoritas Sinhala. Meskipun klaim tersebut sama sekali tidak berdasar secara medis, algoritma Facebook membantu menyebarkan video dan unggahan tersebut hingga memicu kerusuhan hebat di Ampara dan Kandy. Pemerintah Sri Lanka akhirnya terpaksa memblokir akses ke media sosial secara nasional untuk menghentikan koordinasi serangan oleh massa yang menggunakan platform tersebut sebagai alat navigasi dan mobilisasi. Meta kemudian meminta maaf atas perannya dalam kekerasan tersebut, namun pengakuan ini datang terlambat bagi para korban yang telah kehilangan nyawa dan properti mereka.

Tantangan Teknis dan Kesenjangan Sumber Daya Global

Masalah algoritma kebencian diperburuk oleh ketimpangan distribusi sumber daya teknologi antara negara-negara Barat dan Global South. Perusahaan-perusahaan Silicon Valley sering kali meluncurkan produk mereka di pasar berkembang tanpa melakukan uji tuntas hak asasi manusia yang memadai.

Keterbatasan AI dalam Bahasa Berdaya Rendah (Low-Resource)

Teknologi moderasi otomatis (NLP – Natural Language Processing) sangat bergantung pada dataset yang luas untuk melatih model AI. Sementara bahasa Inggris dan Eropa memiliki sumber daya yang melimpah, banyak bahasa di Afrika dan Asia dikategorikan sebagai “bahasa berdaya rendah”. AI sering kali gagal memahami nuansa, sarkasme, atau istilah penghinaan lokal yang terus berevolusi. Misalnya, penggunaan istilah “kecoa” dalam genosida Rwanda di masa lalu kini telah berganti menjadi metafora digital yang lebih halus namun tetap mematikan, yang sering kali tidak terdeteksi oleh algoritma moderasi standar.

Selain itu, tantangan teknis seperti penggunaan alfabet non-standar atau dialek yang dicampur (code-mixing) membuat sistem deteksi otomatis menjadi sangat tidak akurat. Di Myanmar, transisi dari font Zawgyi ke Unicode menciptakan “lubang hitam” dalam moderasi karena algoritma Facebook tidak mampu membaca teks yang ditulis dalam standar font lokal yang dominan. Ketidakmampuan teknis ini, dikombinasikan dengan kurangnya staf manusia yang memahami konteks budaya, menciptakan celah besar bagi aktor jahat untuk menyebarkan propaganda kebencian tanpa hambatan.

Akuntabilitas Korporasi dan Kekosongan Hukum Internasional

Salah satu poin paling krusial dalam diskusi ini adalah impunitas hukum yang dinikmati oleh perusahaan teknologi global. Meskipun dampak nyata dari algoritma mereka telah menyebabkan ribuan kematian, mekanisme hukum internasional saat ini sangat terbatas dalam menuntut pertanggungjawaban korporasi.

Hambatan Hukum di Tingkat Global dan Domestik

Di bawah yurisdiksi Amerika Serikat, Pasal 230 sering digunakan sebagai perisai oleh platform untuk melepaskan tanggung jawab atas konten pihak ketiga. Sementara itu, upaya untuk menuntut Meta melalui hukum internasional di bawah Statuta Roma menghadapi kendala karena Mahkamah Kriminal Internasional (ICC) hanya memiliki mandat untuk mengadili individu, bukan entitas korporasi. Meskipun ada upaya melalui Alien Tort Statute di AS untuk menuntut perusahaan atas pelanggaran hak asasi manusia di luar negeri, Mahkamah Agung AS secara bertahap mempersempit ruang lingkup undang-undang tersebut.

Ketidakhadiran mekanisme akuntabilitas yang mengikat berarti bahwa perusahaan teknologi sering kali hanya bertindak ketika ada tekanan publik yang besar atau ancaman terhadap citra merek mereka. Tindakan yang diambil biasanya bersifat reaktif—seperti audit hak asasi manusia setelah konflik berakhir—daripada preventif. Hal ini menciptakan lingkungan di mana profitabilitas algoritma sering kali dimenangkan atas keselamatan manusia.

Menuju Regulasi Digital Global: DSA dan Christchurch Call

Kegagalan moderasi mandiri oleh industri teknologi telah mendorong lahirnya berbagai inisiatif regulasi yang bertujuan untuk membatasi kekuatan algoritma dan meningkatkan transparansi platform.

Digital Services Act (DSA) Uni Eropa

DSA mewakili upaya regulasi paling progresif hingga saat ini. Undang-undang ini mewajibkan platform online yang sangat besar (VLOPs) untuk melakukan penilaian risiko berkala terhadap sistem mereka dan mengimplementasikan langkah-langkah mitigasi untuk menangani penyebaran konten ilegal dan disinformasi. DSA juga menuntut transparansi algoritma, di mana platform harus menjelaskan bagaimana sistem rekomendasi mereka bekerja dan memberikan pilihan kepada pengguna untuk tidak diprofilkan. Sanksi yang dikenakan bisa mencapai 6% dari omzet global perusahaan, sebuah angka yang cukup signifikan untuk mendorong kepatuhan.

Christchurch Call to Action

Diprakarsai oleh Selandia Baru dan Prancis setelah penembakan massal yang disiarkan langsung di Christchurch, inisiatif ini mengumpulkan pemerintah dan perusahaan teknologi untuk berkomitmen mengeliminasi konten teroris dan ekstremis kekerasan di internet. Meskipun bersifat sukarela, Christchurch Call telah berhasil mendorong pengembangan protokol krisis global dan kerjasama yang lebih erat dalam mendeteksi penyebaran video kekerasan secara lintas platform.

Tanggung Jawab Moral: Bukan Sekadar Masalah Konten

Tanggung jawab moral perusahaan teknologi melampaui sekadar menghapus unggahan yang melanggar aturan. Masalah intinya adalah desain sistem yang secara inheren eksploitatif. Perusahaan memiliki kewajiban etis untuk memastikan bahwa alat yang mereka ciptakan tidak memberikan kemudahan koordinasi bagi pelaku genosida. Hal ini mencakup investasi besar dalam moderator manusia yang memiliki pemahaman budaya mendalam, penghentian fitur rekomendasi otomatis di zona konflik yang sedang memanas, dan pemberian akses data yang lebih luas kepada peneliti independen untuk mengaudit dampak sosial dari algoritma mereka.

Kritik terhadap model “bergerak cepat dan menghancurkan sesuatu” menunjukkan bahwa dalam dunia yang sangat terhubung, “sesuatu” yang dihancurkan sering kali adalah nyawa manusia dan stabilitas negara. Oleh karena itu, uji tuntas hak asasi manusia (Human Rights Due Diligence) harus menjadi syarat mutlak dalam setiap siklus pengembangan produk teknologi, bukan sekadar pelengkap administratif.

Rekomendasi Strategis untuk Ekosistem Digital yang Aman

Untuk mengatasi ancaman algoritma kebencian, diperlukan pendekatan multi-sektoral yang melibatkan pembaruan teknis, reformasi hukum, dan pemberdayaan masyarakat sipil.

1. Redesain Algoritma Berbasis Keselamatan: Mengalihkan metrik kesuksesan platform dari keterlibatan murni menjadi kesehatan informasi. Fitur “Up Next” dan sistem rekomendasi berbasis emosi harus dinonaktifkan secara otomatis di wilayah yang diidentifikasi oleh PBB sebagai area berisiko tinggi konflik etnis.
2. Harmonisasi Standar Global: Menghindari fragmentasi regulasi dengan menciptakan kerangka kerja internasional yang konsisten, mirip dengan standar pelaporan keuangan global, namun untuk dampak hak asasi manusia digital.
3. Investasi pada Bahasa Lokal: Perusahaan harus mengalokasikan persentase tetap dari pendapatan mereka di suatu negara untuk pengembangan alat moderasi bahasa lokal dan perekrutan moderator dari komunitas lokal tersebut.
4. Akuntabilitas Melalui Transparansi Data: Mewajibkan platform untuk memberikan akses kepada pihak ketiga yang independen (seperti akademisi dan LSM) untuk mengaudit algoritma mereka tanpa melanggar privasi pengguna, guna mendeteksi tanda-tanda awal kampanye kebencian yang terorganisir.

Genosida modern di era digital bukan lagi sekadar hasil dari propaganda tradisional, melainkan produk dari mesin amplifikasi yang bekerja tanpa henti di saku kita. Jika algoritma kebencian tidak segera dijinakkan melalui regulasi yang tegas dan tanggung jawab moral yang nyata, maka platform media sosial akan terus menjadi instrumen paling efisien bagi kehancuran kemanusiaan di abad ini. Masa depan stabilitas global bergantung pada kemampuan kita untuk memastikan bahwa teknologi bekerja untuk menghubungkan manusia, bukan untuk memanen kebencian demi keuntungan korporasi.