Autonomno oružje bira i angažuje ciljeve bez ljudske intervencije. Oni mogu uključiti, na primjer, naoružane kvadrokoptere koji mogu tražiti i eliminisati ljude koji ispunjavaju određene unaprijed definirane kriterijume, ali ne uključuju krstareće rakete ili daljinski pilotirane bespilotne letjelice za koje ljudi donose sve odluke za ciljanje.
Slika: autonomni kvadrokopter
Tehnologija veštačke inteligencije (AI) je dostigla tačku u kojoj je raspoređivanje takvih sistema – praktično ako nije zakonski – izvodljivo u godinama, a ne decenijama, a udari su visoki: autonomno oružje je opisano kao treća revolucija u ratu, nakon baruta i nuklearnog oružja.
Mnogi argumenti su napravljeni za i protiv autonomnog oružja, na primer da je zamjena ljudskih vojnika mašinama dobro za smanjivanje žrtava za vlasnika, ali loše time što je smanjio prag za odlazak u borbu. Ključno pitanje za čovečanstvo danas je da li da započne globalnu trku u borbi protiv oružja ili da spreči to da počne. Ako bilo koja velika vojska napreduje sa razvojem AI oružja, globalna trka oružja je praktično neizbežna, a krajnja tačka ove tehnološke trajekture je očigledna: autonomno oružje će postati Kalašnjikov sutrašnjice. Za razliku od nuklearnog naoružanja, oni ne zahtevaju skupe ili sirove materije koje se teško nabavljaju, tako da će postati sveobuhvatne i jeftine za sve značajne vojne sile da bi se masovno proizvele. Biće samo pitanje vremena dok se ne pojave na crnom tržištu i u rukama terorista, diktatora koji žele bolje kontrolirati svoje stanovništvo, vođe koji žele da izvrše etničko čišćenje itd. Autonomno oružje je idealno za zadatke poput atentata, destabilizacije nacije, podrivanje populacija i selektivno ubijanje određene etničke grupe. Stoga verujemo da vojna trka u oružju od AI ne bi bila korisna za čovečanstvo. Postoji mnogo načina na koje AI može učiniti bojna polja sigurnijom za ljude, posebno civile, bez stvaranja novih alata za ubijanje ljudi.
Baš kao što većina hemičara i biologa nema interesovanja za izgradnju hemijskog ili biološkog oružja, većina istraživača AI nema interesovanje za izgradnju AI oružja. Zaista, hemičari i biolozi su široko podržali međunarodne sporazume koji su uspješno zabranili hemijsko i biološko oružje, baš kao što većina fizičara podržava ugovore o zabrani nuklearnog i zaslepljujućeg laserskog naoružanja.
Ukratko, smatramo da AI ima veliki potencijal da na mnogo načina koristi čovečanstvu i da cilj polja treba da bude u tome. Započinjanje vojne trke u autonomnom oružju opremljenom vještačkom inteligencijom je loša ideja, i treba ga spriječiti zabranom ofanzivnog autonomnog oružja izvan značajne ljudske kontrole.
Izvor: https://futureoflife.org/