Jerman Waspadai Senjata Berbasis Kecerdasan Buatan

Perlombaan senjata berbasis artificial intelligence (AI) atau kecerdasan buatan sudah berlangsung. Itulah peringatan blak-blakan dari Menteri Luar Negeri Jerman, Heiko Maas.

"Kita tepat berada di tengah-tengahnya. Itulah kenyataan yang harus kita hadapi," kata Maas dalam seri DW Documentary terbaru, "Future Wars - and How to Prevent Them."

Amandeep Singh Gill, mantan kepala kelompok pakar pemerintah PBB tentang senjata otonom juga mengatakan bahwa perlombaan ini "melintasi bidang militer dan sipil."

"Ini adalah masalah multi-triliun dolar," jelasnya.

'Perang baru' di masa depan

Dalam laporan yang dirilis Komisi Keamanan Nasional Amerika Serikat untuk Kecerdasan Buatan mengungkapkan adanya "paradigma perang baru" yang mengadu "algoritma melawan algoritma," dan mendesak investasi besar-besaran "untuk terus berinovasi mengalahkan musuh potensial."

Dalam rencana pembangunan lima tahun terbarunya, Cina juga menempatkan AI dalam upaya meningkatkan sektor penelitian dan pengembangan. Tentara Pembebasan Rakyat, yang berada di bawah komando Partai Komunis Cina, juga tengah bersiap untuk kondisi masa depan yang mereka sebut "perang cerdas."

Seperti yang dikatakan Presiden Rusia Vladimir Putin pada awal tahun 2017, "siapa pun yang menjadi pemimpin di bidang ini akan menjadi penguasa dunia."

Titik balik peperangan?

Pada akhir tahun 2020, ketika dunia dilanda pandemi, ketegangan yang memburuk di kawasan Kaukasus pecah berujung peperangan. Azerbaijan dan Armenia memperebutkan wilayah Nagorno-Karabakh yang disengketakan. Namun, bagi mereka yang memperhatikan, ini adalah titik balik dalam peperangan.

"Aspek yang sangat penting dari konflik di Nagorno-Karabakh, dalam pandangan saya, adalah penggunaan amunisi yang berkeliaran ini, yang disebut 'drone kamikaze' - sistem yang cukup otonom," ujar Ulrike Franke, pakar perang drone di Dewan Eropa untuk Hubungan Luar Negeri.

Bom yang 'berkeliaran' di udara

Model amunisi berkeliaran canggih mampu memiliki sistem otonom tingkat tinggi. Setelah diluncurkan, mereka terbang ke area target yang ditentukan, di mana mereka "berkeliaran," memindai target - biasanya sistem pertahanan udara.

Begitu mereka mendeteksi target, mereka terbang ke sana, menghancurkannya dengan muatan bahan peledak di dalamnya. Karena inilah model ini mendapat julukan "drone kamikaze".

"Mereka juga telah digunakan dalam beberapa cara atau bentuk sebelumnya. Tetapi di sini, mereka benar-benar menunjukkan kegunaannya," jelas Franke. "Itu menunjukkan betapa sulitnya untuk melawan sistem (AI) ini."

Penelitian yang dilakukan Pusat Studi Strategis dan Internasional menunjukkan bahwa Azerbaijan memiliki keunggulan besar dalam amunisi berkeliaran, dengan lebih dari 200 unit dari empat desain asal Israel yang canggih. Sementara Armenia memiliki satu model domestik.

"Sejak konflik, Anda pasti bisa melihat peningkatan minat pada amunisi yang berkeliaran," kata Franke. "Kami telah melihat lebih banyak angkatan bersenjata di seluruh dunia memperoleh atau ingin memperoleh amunisi yang berkeliaran ini."

Kawanan drone dan 'perang kilat'

Diprediksi, teknologi berbasis AI seperti drone swarm - drone yang beroperasi bersama sebagai satu kesatuan - akan digunakan untuk keperluan militer.

"Anda bisa melumpuhkan sistem pertahanan udara, misalnya,” kata Martijn Rasser dari Center for a New American Security, sebuah lembaga pemikir yang berbasis di Washington.

"Anda meluncurkan begitu banyak kawanan dan begitu banyak jumlah sehingga sistem kewalahan. Ini, tentu saja, memiliki banyak manfaat taktis di medan perang,” katanya kepada DW. "Tidak mengherankan, banyak negara sangat tertarik untuk mengejar jenis kemampuan ini."

Skala dan kecepatan drone swarm membuka prospek bentrokan militer yang begitu cepat dan kompleks sehingga manusia tidak dapat mengikutinya, semakin memicu dinamika perlombaan senjata.

"Beberapa aktor mungkin terpaksa mengadopsi tingkat sistem otonom tertentu, setidaknya secara defensif, karena manusia tidak akan mampu menangani serangan otonom dengan cepat," jelas Ulrike Franke.

Faktor kecepatan yang kritis ini bahkan dapat menyebabkan perang yang meletus entah dari mana, dengan sistem otonom bereaksi satu sama lain. "Dalam literatur kami menyebutnya 'perang kilat'. Konflik militer yang tidak disengaja yang tidak Anda inginkan," ungkapnya.

Sebuah langkah untuk 'menghentikan robot pembunuh'

Bonnie Docherty, dosen Sekolah Hukum Harvard yang juga merupakan pendiri Kampanye untuk Menghentikan Robot Pembunuh, sebuah aliansi organisasi non-pemerintah yang menuntut perjanjian global untuk melarang senjata otonom yang mematikan, tengah berupaya untuk mencegah terjadinya masa depan tersebut.

"Kewajiban menyeluruh dari perjanjian itu adalah untuk mempertahankan kontrol manusia yang berarti atas penggunaan pasukan," kata Docherty kepada DW. "Itu harus menjadi perjanjian yang mengatur semua senjata yang beroperasi secara otonom yang memilih target dan menembaknya berdasarkan input sensor daripada input manusia.”

Kampanye telah difokuskan pada pembicaraan di Jenewa di bawah payung Konvensi PBB tentang Senjata Konvensional Tertentu, yang berupaya mengendalikan senjata yang dianggap menyebabkan penderitaan yang tidak dapat dibenarkan.

Meski berjalan lambat, seperangkat "prinsip panduan" telah dihasilkan, termasuk bahwa senjata otonom harus tunduk pada hukum hak asasi manusia, dan bahwa manusia memiliki tanggung jawab utama untuk penggunaannya.

Docherty khawatir bahwa keputusan pembicaraan di Jenewa yang terikat konsensus dapat digagalkan oleh kekuatan yang tidak tertarik pada perjanjian tersebut.

"Rusia sangat keras dalam keberatannya," kata Docherty. "Beberapa negara lain yang mengembangkan sistem senjata otonom seperti Israel, AS, Inggris, dan lainnya tentu saja tidak mendukung perjanjian baru," ia menambahkan.

Waktu untuk berpikir kembali?

Docherty menyerukan pendekatan baru jika putaran pembicaraan Jenewa berikutnya yang dijadwalkan akhir tahun ini tidak menghasilkan kemajuan. Dia telah mengusulkan "proses independen, dipandu oleh negara-negara yang benar-benar serius tentang masalah ini dan bersedia mengembangkan standar yang kuat untuk mengatur sistem senjata ini."

Tetapi banyak yang mewaspadai ide ini. Menteri luar negeri Jerman telah vokal mendukung adanya pelarangan, tetapi Menlu tidak mendukung Kampanye untuk Menghentikan Robot Pembunuh.

"Kami tidak menolaknya secara substansi - kami hanya mengatakan bahwa kami ingin orang lain dimasukkan," kata Heiko Maas kepada DW. "Kekuatan militer yang secara teknologi berada dalam posisi tidak hanya untuk mengembangkan senjata otonom tetapi juga untuk menggunakannya."

Maas pun setuju bahwa perjanjian harus menjadi tujuan akhir. "Sama seperti yang berhasil kami lakukan dengan senjata nuklir selama beberapa dekade, kami harus membuat perjanjian internasional tentang teknologi senjata baru," katanya. "Mereka perlu menjelaskan bahwa kami setuju bahwa beberapa perkembangan yang secara teknis mungkin tidak dapat diterima dan harus dilarang secara global."

Apa yang harus dilakukan selanjutnya?

Tetapi untuk saat ini, di saat belum tercapainya kesepakatan perihal penggunaan senjata otonom, Franke berpendapat hal terbaik yang bisa diharapkan dunia adalah norma seputar bagaimana teknologi digunakan. "Anda setuju, misalnya, untuk menggunakan kemampuan tertentu hanya dengan cara defensif, atau hanya terhadap mesin daripada manusia, atau hanya dalam konteks tertentu."

Ia menambahkan bahwa hal ini akan menjadi tantangan ke depan. "Menyetujui itu dan kemudian menerapkannya jauh lebih sulit daripada beberapa perjanjian pengendalian senjata lama," katanya.

Sementara negara-negara berjuang melewati tantangan ini, pengembangan AI terus berjalan.

"Dunia harus menaruh minat pada fakta bahwa kita sedang bergerak menuju situasi dengan senjata siber atau otonom di mana setiap orang dapat melakukan apa yang mereka inginkan," kata Maas. "Kami tidak menginginkan itu."

Ed: rap/ha