Ancaman Eksistensial dan Kerangka Tata Kelola Kecerdasan Buatan (AI): Menuju Stabilitas Global di Era Perlombaan Senjata Otonom

AI sebagai Revolusi Militer Ketiga dan Pengganda Kekuatan

Kecerdasan Buatan (AI) telah melampaui statusnya sebagai sekadar tren teknologi, kini menandai sebuah transformasi mendasar dalam strategi pertahanan dan keamanan global. Sejumlah analis menilai bahwa AI mewakili “transformasi ketiga dalam sejarah peperangan,” yang dampaknya setara dengan penemuan mesiu pada tahun 904 Masehi dan penggunaan bom atom dalam Perang Dunia II. Militerisasi AI menandakan perubahan paradigma yang signifikan.

Teknologi ini memiliki sifat pedang bermata dua. Di satu sisi, pemanfaatannya dalam sistem militer dapat berpotensi menciptakan medan tempur yang lebih aman bagi personel militer, terutama melalui otomatisasi tugas-tugas berbahaya. Namun, di sisi lain, jika AI digunakan secara ofensif, kemampuannya untuk beroperasi dalam skala dan kecepatan yang belum pernah ada sebelumnya dapat mengakibatkan kerugian yang jauh lebih besar bagi kehidupan manusia dan infrastruktur. AI berfungsi sebagai pengganda kekuatan (force multiplier), yang memungkinkan operasi menjadi lebih efektif dengan mengurangi jumlah prajurit yang dibutuhkan untuk misi-misi spesifik, misalnya dalam operasi pengamanan perbatasan yang rawan serangan, di mana drone otonom dapat menggantikan sejumlah besar pasukan patroli. Pemanfaatan ini tidak hanya mengubah efisiensi, tetapi juga mengubah sifat risiko yang dihadapi oleh negara.

Dinamika Persaingan Kekuatan Besar dan Fragmentasi Global

Perlombaan senjata AI saat ini didorong oleh persaingan strategis antara kekuatan-kekuatan global. Tiga aktor utama—Amerika Serikat (AS), Tiongkok, dan Rusia—secara aktif bersaing untuk mengembangkan dan memanfaatkan teknologi AI untuk pertahanan negara mereka. Persaingan ini didorong oleh siklus keamanan: jika salah satu negara berhasil mengembangkan AI militer yang lebih unggul, hal itu akan menciptakan insentif yang kuat bagi negara-negara lain untuk mengejar dan menyebarkan inovasi teknologi AI tersebut.

Persaingan untuk dominasi AI antara AS dan Tiongkok—yang sering disebut sebagai “Perang Dingin baru di bidang teknologi”—secara khusus menimbulkan risiko ketegangan geopolitik yang mendalam. Fenomena ini dapat menyebabkan fragmentasi ekosistem teknologi global, yang pada akhirnya akan menghambat kerja sama internasional yang sangat dibutuhkan untuk regulasi yang efektif. Kondisi ini menghasilkan efek destabilisasi ganda. Selain ancaman keras (konflik bersenjata), muncul pula ancaman keamanan lunak. AI bukan hanya senjata di medan tempur konvensional, tetapi juga alat utama dalam peperangan hibrida, beroperasi di ranah digital dan kognitif. Ancaman ini mencakup serangan siber yang dipercepat oleh AI yang menargetkan sistem utama pada gadget sipil maupun militer , serta kampanye disinformasi melalui teknologi deepfake. Konsentrasi kekuatan AI di tangan segelintir negara dan perusahaan ini memperlebar kesenjangan teknologi, secara inheren mengurangi kemampuan komunitas internasional untuk mencapai konsensus regulasi yang stabil dan merata.

Risiko Eskalasi Konflik yang Dipercepat (Flash Conflict)

Pengembangan senjata otonom yang didukung AI membawa risiko eskalasi konflik yang signifikan. Kemampuan AI untuk meningkatkan pengendalian diri, pengaturan diri, dan pengaktifan diri dalam sistem tempur  berarti mesin dapat mengambil keputusan tempur secara komprehensif tanpa campur tangan manusia yang berkelanjutan.

Perlombaan senjata ini meningkatkan ketegangan internasional dan mengalihkan fokus dari upaya-upaya diplomatik menuju pengembangan senjata canggih. Pengembangan senjata otonom oleh aktor-aktor seperti Tiongkok dikhawatirkan oleh AS dan sekutunya karena berpotensi mengganggu keseimbangan strategis yang ada dan menurunkan ambang batas penggunaan kekuatan secara ofensif, terutama di kawasan yang penuh ketegangan geopolitik seperti Indo-Pasifik. Ketika sistem senjata otonom (LAWS) beroperasi untuk mendeteksi dan menyerang target secara independen sesuai instruksi algoritmik , jeda waktu bagi pengambilan keputusan manusia untuk melakukan de-eskalasi menjadi sangat singkat. Hal ini menciptakan risiko flash conflict atau konflik yang meletus dengan cepat dan tidak disengaja, di mana keputusan yang fatal sepenuhnya berada di tangan mesin.

Ancaman Militer Otonom: Implikasi Hukum dan Moral (LAWS and IHL)

LAWS dan Pelanggaran Hukum Humaniter Internasional (IHL)

Penggunaan Sistem Senjata Otonom Mematikan (LAWS) menimbulkan ancaman serius terhadap kerangka hukum konflik bersenjata, khususnya Hukum Humaniter Internasional (IHL). Ancaman utama yang ditimbulkan LAWS adalah terhadap Prinsip Kemanusiaan, Prinsip Pembedaan (Distinction), dan Prinsip Proporsionalitas. LAWS, yang mampu beroperasi secara otonom untuk mengintai dan melancarkan serangan tepat sasaran , menciptakan problematika akuntabilitas yang mendalam. Pelanggaran hukum yang terjadi akibat tindakan otonom mesin dapat terjadi tanpa kejelasan pertanggungjawaban, mengancam struktur normatif IHL yang selama ini menuntut akuntabilitas manusia dalam setiap tindakan mematikan.

Meskipun operator manusia biasanya memberikan parameter misi awal, seperti batas waktu dan jenis target, pengambilan keputusan mematikan terakhir dapat sepenuhnya dilakukan oleh algoritma mesin. Hal ini menimbulkan tantangan hukum yang fundamental: tidak adanya aktor manusia yang secara langsung bertanggung jawab ketika LAWS melakukan serangan atau merespons ancaman dalam rentang waktu yang sangat cepat.

Mendefinisikan Meaningful Human Control (MHC)

Menanggapi krisis akuntabilitas yang ditimbulkan oleh LAWS, konsep Meaningful Human Control (MHC) telah muncul sebagai pertimbangan kunci dalam diskursus regulasi. Standar ini berusaha memastikan keterlibatan manusia yang substansial dalam mengawasi dan mengarahkan fungsi operasional LAWS sambil menetapkan ambang batas untuk akuntabilitas.

MHC secara implisit mengakui tanggung jawab agen manusia atas keputusan yang berkaitan dengan setiap serangan individu. Prinsip ini menuntut bahwa tindakan dan keadaan sistem dapat dilacak ke pemahaman dan persetujuan yang relevan dari agen manusia, entah itu perancang, pengendali, atau pengguna. Artinya, sistem AI yang tidak dapat dilacak kembali ke alasan moral manusia tidak berada di bawah kontrol manusia yang bermakna.

Namun, standar ini tidak luput dari kritik, terutama dari Amerika Serikat, yang berargumen bahwa fokus tunggal pada ‘kontrol’ dapat mengaburkan, alih-alih memperjelas, tantangan hukum dan operasional yang ada. Kritik ini menyoroti konflik operasional yang mendalam antara kebutuhan militer akan kecepatan dan keharusan etika/hukum untuk kontrol manusia yang substansial. Kemampuan LAWS untuk merespons ancaman secara instan akan terkompromikan jika diperlukan intervensi manusia yang “meaningful” di setiap serangan. Jika keputusan harus diambil dalam hitungan detik untuk menanggapi peluncuran roket masuk , peran manusia mungkin berkurang menjadi sekadar pengamat pasif, yang bertentangan dengan tuntutan MHC. Oleh karena itu, diskusi regulasi LAWS harus menjembatani jurang antara kecepatan operasional dan tuntutan akuntabilitas etis.

Seruan Global untuk Norma Hukum Baru

Komunitas internasional menyadari perlunya norma hukum baru dan gerakan global kolaboratif yang melibatkan industri dan masyarakat sipil untuk menjamin akuntabilitas manusia tetap menjadi pusat dalam penggunaan AI militer. Ada preseden historis yang optimis, di mana dunia telah berhasil menciptakan 22 traktat internasional untuk mencegah proliferasi senjata berbahaya (misalnya, pelarangan ranjau darat). Hal ini menjadi dasar bagi seruan global, yang didukung oleh ribuan ahli dan gerakan seperti Campaign to Stop Killer Robots, untuk melarang LAWS sebelum penggunaannya meluas.

Saran regulasi tidak hanya mencakup larangan, tetapi juga mitigasi melalui desain. Setiap sistem senjata otonom yang diizinkan harus memiliki fitur penghentian otomatis (automatic shutdown) ketika risiko kerugian sipil melebihi batas yang telah ditentukan. Sistem juga harus memanfaatkan sensor canggih, termasuk AI, untuk membedakan secara efektif antara kombatan dan warga sipil. Selain itu, kontrol manusia yang bermakna dapat ditingkatkan dengan merancang sistem dan lingkungannya sedemikian rupa sehingga mengurangi atau menghilangkan peluang sistem menghadapi keadaan yang menantang secara moral. Regulasi ini harus bergeser dari sekadar kontrol di medan tempur menjadi persyaratan desain sistem yang beretika.

Tabel 1 meringkas ancaman hukum yang ditimbulkan oleh otonomi penuh LAWS dan solusi regulasi yang diusulkan melalui MHC.

Table 1: Ancaman Utama LAWS dan Kriteria Meaningful Human Control (MHC)

Ancaman Hibrida dan Sistemik terhadap Ketahanan Sosial

Dampak AI pada Integritas Demokrasi dan Stabilitas Politik

Ancaman AI terhadap stabilitas global tidak terbatas pada domain militer, tetapi meluas ke ranah kognitif dan politik. Kecerdasan Buatan telah menjadi senjata utama dalam perang hibrida dan informasi, khususnya melalui serangan siber yang dipercepat dan kampanye disinformasi yang didukung oleh deepfake.

Deepfake, yang memungkinkan manipulasi video dan suara dengan sangat realistis , berpotensi berkembang menjadi alat destabilisasi yang efektif dalam perang informasi modern. Dampak penyebaran berita palsu, seperti yang terlihat dalam studi kasus Pemilu 2019 di Indonesia, adalah menciptakan kebingungan, merusak citra publik, dan pada akhirnya mengikis kredibilitas penyelenggaraan pemilu. Ketika kepercayaan masyarakat terhadap sistem politik terganggu, hal ini dapat menyebabkan krisis legitimasi dalam pemerintahan, ketidakpercayaan terhadap institusi demokrasi, dan ketidakstabilan politik yang lebih besar.

Disinformasi berbasis AI bukan hanya isu teknis, tetapi juga isu psikologis, politik, dan struktural. Kegagalan mengatasi serangan terhadap ranah kognitif secara langsung melemahkan infrastruktur sosial yang diperlukan untuk menahan tekanan geopolitik dan krisis keamanan lainnya.

Risiko Eksistensial Akumulatif (Accumulative AI X-Risk)

Selain skenario bencana seketika yang disebabkan oleh AI superinteligensi yang salah sasaran (Decisive AI x-risk), analisis risiko yang lebih realistis dan mendesak adalah hipotesis Accumulative AI x-risk. Hipotesis ini menggambarkan ancaman yang terakumulasi secara perlahan dari berbagai gangguan kecil yang dipicu oleh AI, yang secara bertahap merusak ketahanan sosial hingga keruntuhan sistemik yang tidak dapat dipulihkan terjadi.

Pendekatan ini menyajikan skenario ‘katak yang direbus’ (boiling frog scenario), di mana risiko inkremental dari AI (seperti bias algoritmik yang konsisten , kehilangan pekerjaan yang meluas, dan erosi kepercayaan publik) secara perlahan bertemu dan memperburuk diri sendiri. Pararel historis dapat dilihat dalam keruntuhan Kekaisaran Romawi, di mana degradasi bertahap melalui korupsi internal dan krisis ekonomi memainkan peran yang lebih besar daripada peristiwa tunggal yang dramatis.

Stabilitas global terancam oleh korelasi antara AI Arms Race dan Accumulative X-Risk. Kegagalan mencapai regulasi yang mengikat untuk LAWS mencerminkan prioritas strategis di atas norma, sementara risiko akumulatif menunjukkan kerentanan sistemik yang berasal dari dalam masyarakat. Kedua risiko ini saling bertemu: sistem sosial yang terfragmentasi akibat gangguan-gangguan kecil (misalnya, diskriminasi algoritmik  dan ketidakpercayaan yang ditimbulkan oleh deepfake ) akan memiliki kemampuan respons yang sangat terbatas terhadap krisis keamanan militer atau serangan siber berskala besar. Kegagalan tata kelola AI sipil dalam mengatasi masalah bias, interoperabilitas, dan keberlanjutan  berarti bahwa infrastruktur kritis menjadi rentan, yang pada akhirnya membuktikan bahwa tata kelola AI sipil adalah prasyarat untuk keamanan keras.

Dampak Sosio-Ekonomi: Kesenjangan dan Ketidakpuasan

Perkembangan AI juga memicu tantangan sosio-ekonomi yang serius yang dapat destabilisasi negara secara internal. Konsentrasi kekuatan AI di tangan beberapa negara dan perusahaan menciptakan kecenderungan menguatnya ketidaksetaraan global dan ketergantungan teknologi baru, memperlebar kesenjangan teknologi antara negara maju dan berkembang.

Di tingkat domestik, AI berpotensi menggantikan pekerjaan manusia, terutama tugas-tugas rutin, menimbulkan kekhawatiran mengenai pengurangan pekerjaan dan kebutuhan pelatihan ulang. Penerapan AI yang mendadak atau tidak adil dapat memicu stres, kebingungan, dan penurunan moral, sesuai dengan Affective Events Theory. Lebih lanjut, bias algoritmik yang diwarisi dari data pelatihan dapat menyebabkan hasil yang diskriminatif, seperti keputusan perekrutan yang bias atau akses yang tidak setara ke layanan keuangan. Ketika sistem AI menolak lamaran kerja tanpa memberikan alasan yang jelas, hal itu dianggap tidak adil dan kurang transparan, mengurangi kepercayaan karyawan terhadap sistem yang ada.

Terakhir, AI membutuhkan infrastruktur digital yang memadai (internet kecepatan tinggi, perangkat keras canggih). Kurangnya akses yang setara terhadap sumber daya ini menciptakan ketimpangan digital, di mana AI menjadi pemisah antara yang mampu dan yang tidak mampu. Kesetaraan akses terhadap teknologi AI adalah isu keadilan sosial yang harus diatasi untuk mencegah ketidakpuasan sosial yang dapat memperparah risiko akumulatif.

Model Tata Kelola AI Global yang Bersaing (The Regulatory Landscape)

Regulasi AI adalah arena kompetisi geopolitik, di mana AS, Tiongkok, dan Uni Eropa (UE) mengambil pendekatan yang berbeda dalam menyeimbangkan keamanan dengan inovasi. Perbedaan ini mencerminkan prioritas nasional dan nilai-nilai yang mendasari.

Pendekatan Uni Eropa: Kepercayaan dan Pendekatan Berbasis Risiko

Uni Eropa bertujuan menjadikan dirinya sebagai pusat AI kelas dunia yang human-centric dan dapat dipercaya (trustworthy). Pendekatan ini diwujudkan melalui Undang-Undang Kecerdasan Buatan (EU AI Act), yang merupakan kerangka hukum komprehensif pertama di dunia. UU AI ini memperkenalkan pendekatan yang jelas berdasarkan empat tingkat risiko, bertujuan untuk menyeimbangkan promosi penelitian dan inovasi AI sambil menjamin keamanan dan hak fundamental.

Pendekatan berbasis risiko ini melarang praktik-praktik AI yang dianggap sebagai ancaman yang tidak dapat diterima (seperti social scoring, manipulasi berbasis AI yang berbahaya, dan identifikasi biometrik jarak jauh secara real-time untuk penegakan hukum di ruang publik). Untuk sistem AI berisiko tinggi (misalnya dalam infrastruktur penting, pendidikan, atau penegakan hukum), UU AI menetapkan kewajiban ketat, termasuk penilaian risiko, kualitas data yang tinggi untuk meminimalkan bias, dan tindakan pengawasan manusia yang memadai. Mirip dengan General Data Protection Regulation (GDPR) di masa lalu, UU AI Uni Eropa berpotensi menjadi standar global yang menentukan sejauh mana AI diatur di seluruh dunia.

Pendekatan Tiongkok: Kontrol Negara dan Kedaulatan Data

Tiongkok melihat AI sebagai teknologi strategis yang krusial untuk mencapai tujuan ekonomi dan geopolitiknya. Pendekatan regulasi Tiongkok difokuskan pada kontrol negara (state control) sambil mempertahankan dinamisme ekonomi.

Peraturan Tiongkok, seperti Interim Measures for the Management of Generative Artificial Intelligence Services, menekankan kepatuhan pada nilai-nilai sosialisme dan secara eksplisit melarang pembuatan konten yang mengandung hasutan melawan Negara. Untuk menyediakan layanan AI generatif kepada publik, perusahaan harus memperoleh lisensi dan tunduk pada pengawasan ketat. Sementara UE fokus pada hak fundamental dan pasar, Tiongkok memprioritaskan kedaulatan data dan kontrol informasi, menciptakan apa yang digambarkan sebagai “Tembok Besar AI” (The Great AI Firewall).

Pendekatan Amerika Serikat: Fleksibilitas dan Fokus Sektoral

Amerika Serikat cenderung mengadopsi pendekatan regulasi yang lebih fleksibel, seringkali dalam bentuk pedoman dan undang-undang sektoral, demi mempromosikan inovasi dan daya saing global. AS berusaha memimpin dalam perlombaan regulasi, tetapi pendekatannya berbeda dari pendekatan komprehensif UE.

Dalam konteks militer, AS bersikap hati-hati terhadap regulasi yang dapat membatasi kemampuan operasional mereka, seperti yang ditunjukkan oleh kritik terhadap standar Meaningful Human Control yang terlalu kaku. Pendekatan AS mencerminkan penekanan pada pengembangan yang cepat dan pemanfaatan AI untuk mempertahankan keunggulan teknologi.

Tabel 2 merangkum perbedaan mendasar dalam pendekatan regulasi oleh yurisdiksi utama ini.

Table 2: Perbandingan Pendekatan Regulasi AI di Yurisdiksi Utama

Kebutuhan Regulasi Internasional: Tantangan dan Inisiatif Multilateral

Tantangan Utama Menuju Konsensus Global

Meskipun ancaman AI bersifat global, mencapai kerangka regulasi internasional yang mengikat tetap menjadi tantangan besar. Hambatan utama adalah fragmentasi geopolitik dan divergensi mendasar dalam prioritas nasional, sebagaimana tercermin dalam model regulasi yang bersaing antara AS, Tiongkok, dan UE.

Selain itu, terdapat dilema regulasi yang harus dihadapi. Para pemimpin global khawatir bahwa regulasi yang terlalu membatasi dapat menghambat inovasi, yang pada gilirannya dapat menyebabkan negara-negara tertentu tertinggal dalam persaingan teknologi yang dipercepat. Menemukan keseimbangan antara keamanan dan inovasi, di tengah persaingan ekonomi dan militer yang intens, menjadi sangat sulit.

Inisiatif Multilateral dan Konsensus Etika

Terlepas dari hambatan geopolitik, ada gerakan multilateral yang signifikan menuju pembentukan norma etika. Pada Maret 2024, Majelis Umum Perserikatan Bangsa-Bangsa (PBB) dengan suara bulat menerima resolusi global non-mengikat yang pertama mengenai AI. Resolusi ini didukung bersama oleh AS, Tiongkok, dan 122 negara lainnya, mendorong negara-negara untuk melindungi hak asasi manusia, data pribadi, dan memonitor risiko yang ditimbulkan AI.

Selain itu, Rekomendasi UNESCO tentang Etika AI tahun 2021, yang diadopsi oleh 193 negara anggota, menjadi panduan global yang mendorong penerapan AI yang etis, inklusif, transparan, dan menghormati hak asasi manusia. Organisasi global lainnya, seperti OECD dan G20, juga telah mengadopsi prinsip-prinsip AI yang menekankan tanggung jawab dan etika.

Konsensus global yang luas tentang etika AI ini menunjukkan komitmen normatif bersama. Namun, konsensus etika yang bersifat aspirasional ini belum berhasil diterjemahkan menjadi perjanjian keamanan yang mengikat, terutama terkait LAWS. Kesenjangan antara etika dan penegakan hukum ini terjadi karena regulasi di domain militer (LAWS) akan membatasi kemampuan strategis negara-negara besar. Oleh karena itu, tata kelola AI bersifat bifurcated: relatif mudah mencapai kesepakatan etika, tetapi sangat sulit mencapai kesepakatan keamanan yang substantif dan mengikat akibat prioritas geopolitik yang bersaing.

Kesimpulan

AI menghadirkan ancaman yang bersifat multidimensi terhadap stabilitas global, beroperasi secara vertikal (meningkatkan risiko konflik militer kinetik dan perlombaan senjata otonom) dan horizontal (mengikis kohesi sosial dan institusional melalui perang hibrida dan risiko eksistensial akumulatif). Persaingan antara AS, Tiongkok, dan Rusia telah menciptakan fragmentasi teknologi yang menghambat kerja sama, sementara ancaman dari deepfake dan bias algoritmik secara bertahap merusak ketahanan sistem sosial. Untuk menghadapi tantangan ini, diperlukan kerangka tata kelola yang melampaui etika dan bergerak menuju implementasi hukum yang mengikat dan mitigasi risiko sistemik.

Rekomendasi Kebijakan

Rekomendasi 1: Mendorong Konsensus Internasional yang Mengikat mengenai LAWS

Komunitas internasional harus mempercepat upaya untuk menghasilkan traktat internasional yang mengikat mengenai LAWS, yang menjadikan standar Meaningful Human Control (MHC) sebagai ambang batas minimum yang dapat ditegakkan. Fokus regulasi harus diletakkan pada akuntabilitas di tingkat desain sistem, memastikan bahwa setiap keputusan otonom dapat dilacak kembali ke alasan moral manusia. Selain itu, regulasi harus mewajibkan fitur keselamatan operasional, termasuk fitur penghentian otomatis ketika ambang risiko kerugian sipil dilampaui.

Rekomendasi 2: Membangun Kapasitas Ketahanan Siber dan Sosial

Untuk memerangi ancaman hibrida dan akumulatif, investasi kritis harus diarahkan pada peningkatan kemampuan forensik digital dan peningkatan literasi digital masyarakat secara luas. Hal ini penting untuk melawan kampanye disinformasi dan deepfake yang bertujuan destabilisasi politik. Pemerintah juga perlu menerapkan kerangka manajemen risiko AI formal untuk mengatasi masalah bias algoritmik  dan dampak negatif pada tenaga kerja , sehingga mencegah degradasi bertahap yang mengarah pada keruntuhan sistemik.

Rekomendasi 3: Mendesak Tata Kelola AI yang Inklusif

Regulasi AI harus menjadi alat untuk keadilan sosial, bukan sebaliknya. Kebijakan harus secara eksplisit mengatasi kesenjangan teknologi dan ketidaksetaraan global yang disebabkan oleh konsentrasi kekuatan AI. Hal ini memerlukan investasi dalam pembangunan infrastruktur digital yang merata dan program pelatihan ulang (reskilling) tenaga kerja untuk mengatasi pengurangan pekerjaan. AI harus diposisikan sebagai alat pemberdayaan, memastikan bahwa tidak ada satu pun negara atau kelompok masyarakat yang tertinggal dalam transisi AI yang transformatif. Diperlukan platform dialog global yang mengakui perbedaan model regulasi (UE, Tiongkok, AS) sambil memprioritaskan keamanan dan stabilitas global di atas persaingan geopolitik.