Rat algoritama

Kada je u pitanju upotreba umjetne inteligencije u vojsci, odmah se budi noćna mora naučne fantastike, buntovna i smrtonosna AI koja se diže protiv čovječanstva da ga uništi. Nažalost, strahovi vojske i vođa da će nas „neprijatelj sustići“ jednako su jaki u razvoju algoritama ratovanja.

Algoritamsko ratovanjekoji bi, prema mnogima, mogao iz temelja promijeniti lice bojnog polja kakvo poznajemo, uglavnom zato što bi ratovanje bilo brže, daleko ispred sposobnosti ljudi da donose odluke. američki general Jack Shanahan (1), čelnik američkog Zajedničkog centra za umjetnu inteligenciju, naglašava, međutim, da prije uvođenja umjetne inteligencije u arsenale moramo osigurati da ti sistemi i dalje budu pod ljudskom kontrolom i da ne započinju ratove sami.

"Ako neprijatelj ima mašine i algoritme, izgubićemo ovaj sukob"

Sposobnost vožnje algoritamsko ratovanje zasniva se na korišćenju napretka kompjuterske tehnologije u tri glavna područja. Prvo decenijama eksponencijalnog rasta računarske snageovo je uvelike poboljšalo performanse mašinskog učenja. Sekunda brz rast resursa “Big data”, odnosno ogromni, obično automatizirani, kojima se upravlja i kontinuirano kreirani skupovi podataka pogodni za strojno učenje. Treće se tiče brz razvoj tehnologija računarstva u oblaku, preko koje računari mogu lako pristupiti resursima podataka i obraditi ih za rješavanje problema.

Ratni algoritamkako definišu stručnjaci, prvo se mora izraziti sa kompjuterski kod. Drugo, to mora biti rezultat platforme sposobne i za prikupljanje informacija i za donošenje odluka, donošenje odluka koje, barem u teoriji, ne zahtijevaju ljudska intervencija. Treće, što se čini očiglednim, ali ne nužno, jer tek na djelu postaje jasno da li tehnika namijenjena nečemu drugom može biti korisna u ratu i obrnuto, mora biti sposobna za rad u uvjetima. oružani sukob.

Analiza navedenih pravaca i njihove interakcije to pokazuje algoritamsko ratovanje to nije posebna tehnologija kao što je npr. energetsko oružje ili hipersonične rakete. Njegovi efekti su široki i postepeno postaju sveprisutni u neprijateljstvima. Prvi put vojna vozila postaju inteligentni, potencijalno čineći odbrambene snage koje ih sprovode efikasnijim i efektivnijim. Takve inteligentne mašine imaju jasna ograničenja koja treba dobro razumjeti.

“, rekao je Shanahan prošle jeseni u intervjuu s bivšim izvršnim direktorom Googlea Ericom Schmidtom i Google potpredsjednikom za međunarodne poslove Kentom Walkerom. "".

Nacrt izvještaja američkog Vijeća za nacionalnu sigurnost o AI pominje Kinu više od 50 puta, naglašavajući zvanični cilj Kine da postane svjetski lider u AI do 2030. (vidi također: ).

Ove riječi izgovorene su u Washingtonu na posebnoj konferenciji koja je održana nakon što je spomenuti Shanakhan Centar predstavio svoj preliminarni izvještaj Kongresu, koji je pripremljen u saradnji sa renomiranim stručnjacima iz oblasti umjetne inteligencije, uključujući Microsoftovog direktora istraživanja Erica Horwitza, izvršnog direktora AWS-a Andyja Jassa i Glavni istraživač Google Clouda Andrew Moore. Konačni izvještaj će biti objavljen u oktobru 2020.

Uposlenici Googlea protestiraju

Prije nekoliko godina, Pentagon se uključio. algoritamsko ratovanje i niz projekata vezanih za umjetnu inteligenciju u okviru projekta Maven, zasnovanih na saradnji sa tehnološkim kompanijama, uključujući Google i startupove kao što je Clarifai. Radilo se uglavnom o radu na umjetna inteligencijakako bi se olakšala identifikacija objekata na.

Kada se u proljeće 2018. saznalo za Googleovo učešće u projektu, hiljade zaposlenih giganta Mountain View potpisalo je otvoreno pismo protestujući protiv učešća kompanije u neprijateljstvima. Nakon višemjesečnih radničkih nemira Google je usvojio vlastiti skup pravila za AIšto uključuje zabranu učešća na događajima.

Google se također obavezao da će završiti ugovor Project Maven do kraja 2019. godine. Googleov izlazak nije okončao Project Maven. Kupio ga je Palantir Petera Thiela. Zračne snage i američki marinski korpus planiraju koristiti posebne bespilotne letjelice, poput Global Hawka, u sklopu projekta Maven, od kojih bi svaka trebala vizualno nadzirati do 100 kvadratnih kilometara.

Povodom onoga što se dešava oko projekta Maven, postalo je jasno da je američkoj vojsci hitno potreban vlastiti oblak. Ovo je ono što je Shanahan rekao tokom konferencije. To je bilo očigledno kada su video snimci i ažuriranja sistema morali biti transportovani kamionima do vojnih postrojenja raštrkanih po terenu. U zgradi objedinjeno računarstvo u oblaku, koji će pomoći u rješavanju problema ovog tipa, u sklopu projekta objedinjene IT infrastrukture za Jedi vojsku, Microsoft, Amazon, Oracle i IBM. Google nije zbog svojih etičkih kodeksa.

Iz Shanahanove izjave je jasno da velika AI revolucija u vojsci tek počinje. A uloga njegovog centra u američkim oružanim snagama raste. Ovo se jasno vidi u procijenjenom budžetu JAIC-a. U 2019. iznosio je nešto manje od 90 miliona dolara. U 2020. već bi trebao iznositi 414 miliona dolara, ili oko 10 posto Pentagonovog budžeta za umjetnu inteligenciju od 4 milijarde dolara.

Mašina prepoznaje predanog vojnika

Američke trupe već su opremljene sistemima kao što je Phalanx (2), što je vrsta autonomnog oružja koje se koristi na brodovima američke mornarice za napad na dolazeće projektile. Kada se detektuje projektil, automatski se uključuje i uništava sve na svom putu. Prema Fordu, on može napasti sa četiri ili pet projektila u pola sekunde bez potrebe da prolazi i gleda u svaku metu.

Drugi primjer je poluautonomni Harpy (3), komercijalni sistem bez posade. Harpija se koristi za uništavanje neprijateljskih radara. Na primjer, 2003. godine, kada su SAD pokrenule napad na Irak koji je imao vazdušne radarske sisteme za presretanje, bespilotne letjelice izraelske proizvodnje pomogle su da ih pronađu i unište kako bi Amerikanci mogli bezbedno da ulete u irački vazdušni prostor.

3. Lansiranje drona sistema IAI Harpy

Još jedan dobro poznati primjer autonomnog oružja je Korejski sistem Samsung SGR-1, koji se nalazi u demilitariziranoj zoni između Sjeverne i Južne Koreje, dizajniran za identifikaciju i ispaljivanje uljeza na udaljenosti do četiri kilometra. Prema opisu, sistem "može razlikovati osobu koja se predaje i osobu koja se ne predaje" na osnovu položaja njihovih ruku ili prepoznavanja položaja oružja u rukama.

4. Demonstracija detekcije vojnika koji se predaje od strane Samsung SGR-1 sistema

Amerikanci se plaše da će biti ostavljeni

Trenutno najmanje 30 zemalja širom svijeta koristi automatsko oružje s različitim nivoima razvoja i upotrebe AI. Kina, Rusija i Sjedinjene Države vide umjetnu inteligenciju kao nezamjenjiv element u izgradnji svoje buduće pozicije u svijetu. „Ko god pobedi u trci veštačke inteligencije, vladaće svetom“, rekao je ruski predsednik Vladimir Putin studentima u avgustu 2017. Predsjednik Narodne Republike Kine Xi Jinping nije davao tako glasne izjave u medijima, ali je on glavni pokretač direktive koja poziva da Kina postane dominantna sila u oblasti umjetne inteligencije do 2030. godine.

U SAD-u raste zabrinutost zbog "efekta satelita", koji je pokazao da su Sjedinjene Države izuzetno loše opremljene da se suoče s novim izazovima koje postavlja umjetna inteligencija. A to može biti opasno za mir, makar samo zato što zemlja ugrožena dominacijom možda želi da eliminiše stratešku prednost neprijatelja na drugi način, odnosno ratom.

Iako je prvobitna svrha projekta Maven bila pomoć u pronalaženju islamskih boraca ISIS-a, njegov značaj za dalji razvoj vojnih sistema umjetne inteligencije je ogroman. Elektronsko ratovanje zasnovano na snimačima, monitorima i senzorima (uključujući mobilne, leteće) povezano je sa ogromnim brojem heterogenih tokova podataka, koji se mogu efikasno koristiti samo uz pomoć AI algoritama.

Hibridno bojno polje je postalo vojna verzija IoT-a, bogat važnim informacijama za procjenu taktičkih i strateških prijetnji i prilika. Mogućnost upravljanja ovim podacima u realnom vremenu ima velike prednosti, ali neuspeh u učenju iz ovih informacija može biti katastrofalan. Mogućnost brze obrade toka informacija sa različitih platformi koje djeluju u više područja pruža dvije glavne vojne prednosti: brzina i dostupnost. Umjetna inteligencija vam omogućava da analizirate dinamičke uslove na bojnom polju u realnom vremenu i nanesete brz i optimalan udar, istovremeno minimizirajući rizik za vlastite snage.

Ovo novo bojno polje je također sveprisutno i. AI je u srcu takozvanih rojeva dronova, koji su posljednjih godina dobili veliku pažnju. Uz pomoć sveprisutnih senzora, ne samo da omogućava bespilotnim letjelicama da se kreću po neprijateljskom terenu, već može eventualno omogućiti formiranje složenih formacija različitih tipova bespilotnih letjelica koje djeluju u mnogim područjima, s dodatnim oružjem koje omogućava sofisticirane borbene taktike, odmah prilagođavajući se neprijatelj. manevri kako bi se iskoristila prednost bojnog polja i prijavili promjenjivi uslovi.

Napredak u određivanju ciljeva i navigaciji uz pomoć veštačke inteligencije takođe poboljšava izglede za efikasnost u širokom spektru taktičkih i strateških odbrambenih sistema, posebno protivraketne odbrane, poboljšavajući metode otkrivanja, praćenja i identifikovanja ciljeva.

stalno povećava snagu simulacija i alata za igre koji se koriste za istraživanje nuklearnog i konvencionalnog oružja. Masovno modeliranje i simulacija bit će od suštinskog značaja za razvoj sveobuhvatnog multi-domenskog sistema ciljnih sistema za kontrolu borbe i složene misije. AI također obogaćuje interakcije više strana (5). AI omogućava igračima da dodaju i modifikuju varijable igre kako bi istražili kako dinamički uslovi (oružje, učešće saveznika, dodatne trupe, itd.) mogu uticati na performanse i donošenje odluka.

Za vojsku, identifikacija objekata je prirodna polazna tačka za AI. Prvo, potrebna je sveobuhvatna i brza analiza sve većeg broja slika i informacija prikupljenih sa satelita i dronova kako bi se pronašli objekti od vojnog značaja, poput projektila, kretanja trupa i drugih obavještajnih podataka. Danas, bojno polje obuhvata sve pejzaže – more, kopno, vazduh, svemir i sajber prostor – na globalnom nivou.

Cyberspacekao inherentno digitalni domen, prirodno je pogodan za AI aplikacije. S ofanzivne strane, AI može pomoći u pronalaženju i ciljanju pojedinačnih mrežnih čvorova ili pojedinačnih računa radi prikupljanja, ometanja ili dezinformisanja. Sajber napadi na internu infrastrukturu i komandne mreže mogu biti katastrofalni. Što se odbrane tiče, AI može pomoći u otkrivanju takvih upada i pronalaženju destruktivnih anomalija u civilnim i vojnim operativnim sistemima.

Očekivana i opasna brzina

Međutim, brzo donošenje odluka i brzo izvršenje možda vam neće dobro poslužiti. za efikasno antikrizno upravljanje. Prednosti veštačke inteligencije i autonomnih sistema na bojnom polju možda neće ostaviti vremena za diplomatiju, koja je, kao što znamo iz istorije, često bila uspešna kao sredstvo za sprečavanje ili upravljanje krizom. U praksi, usporavanje, pauze i vrijeme za pregovore mogu biti ključ pobjede, ili barem izbjegavanja katastrofe, posebno kada je nuklearno oružje u pitanju.

Odluke o ratu i miru ne mogu se prepustiti prediktivnoj analitici. Postoje fundamentalne razlike u načinu na koji se podaci koriste u naučne, ekonomske, logističke i prediktivne svrhe. ljudsko ponašanje.

Neki mogu percipirati AI kao silu koja slabi međusobnu stratešku osjetljivost i time povećava rizik od rata. Slučajno ili namjerno oštećeni podaci mogu dovesti do AI sistema da izvedu neželjene radnje, kao što je pogrešna identifikacija i ciljanje pogrešnih ciljeva. Brzina djelovanja koja se postulira u slučaju razvoja ratnih algoritama može značiti preuranjenu ili čak nepotrebnu eskalaciju koja ometa racionalno upravljanje krizom. S druge strane, algoritmi takođe neće čekati i objašnjavati, jer se od njih očekuje i da budu brzi.

Uznemirujući aspekt funkcioniranje algoritama umjetne inteligencije također predstavljen od nas nedavno u MT. Čak ni stručnjaci ne znaju tačno kako AI dovodi do rezultata koje vidimo u rezultatima.

U slučaju ratnih algoritama, ne možemo sebi priuštiti takvo neznanje o prirodi i o tome kako oni o njima "misle". Ne želimo da se budimo usred noći uz nuklearne rakete jer je "naša" ili "njihova" umjetna inteligencija odlučila da je vrijeme da se konačno riješi utakmica.