Duh mašinskog ubice se nastavlja. U šta veruje predsednik Putin?

Zagovornici vojnih robota (1) tvrde da automatizirano oružje pruža više mogućnosti za zaštitu ljudskih života. Mašine su u stanju da se približe neprijatelju od vojnika i pravilno procijene prijetnju. A emocije ponekad paraliziraju sposobnost donošenja ispravnih odluka.

Mnogi zagovornici upotrebe robota ubica čvrsto vjeruju da će oni učiniti ratove manje krvavim jer će manje vojnika poginuti. Napominju da su roboti, iako ne osjećaju sažaljenje, imuni na negativne ljudske emocije poput panike, ljutnje i osvete, koje često dovode do ratnih zločina.

Aktivisti za ljudska prava također koriste argument da je vojska dovela do ogromnog smanjenja civilnih žrtava u posljednjih pola stoljeća, a robotizacija vojske omogućava mehanizam za strožiju primjenu zakona ratovanja. Tvrde da će mašine postati etičke kada budu opremljene softverom koji će ih natjerati da poštuju zakone rata.

Naravno, veliki broj ljudi, uključujući i one vrlo poznate, godinama ne dijeli ovo mišljenje. U aprilu 2013. godine pokrenuta je međunarodna kampanja pod sloganom (2). U okviru tog okvira, nevladine organizacije traže potpunu zabranu upotrebe autonomnog oružja. Eksperti iz mnogih zemalja prvi put su sjeli kako bi razgovarali o ovoj temi na Konferenciji UN-a o razoružanju u Ženevi u maju 2014. godine. U izvještaju koji su nekoliko mjeseci kasnije objavili Human Rights Watch i naučnici sa Univerziteta Harvard, navodi se da bi autonomni bili previše opasni - sami su birali svoje mete i ubijali ljude. Istovremeno, nije baš jasno ko treba da odgovara.

2. Demonstracija u sklopu akcije "Stop robotima ubicama"

Šta može roj malih dronova

Sporovi oko robota ubica (ROU) traju godinama i ne jenjavaju. Posljednji mjeseci donijeli su nove pokušaje zaustavljanja vojnih robota i val izvještaja o novim projektima ovog tipa, od kojih se neki čak testiraju u stvarnim borbenim uvjetima.

U novembru 2017, video koji prikazuje smrtonosni rojevi mini-dronova ., u zastrašujućoj akciji. Gledaoci su vidjeli da nam više nisu potrebne teške ratne mašine, tenkovi ili projektili koje su predatori bacali za masovno ubijanje iz mitraljeza. Glavni direktor Stuart Russell, profesor umjetne inteligencije na Berkeleyu, kaže:

-

Prošlog proleća pedeset profesora Vodeći svjetski univerziteti potpisali su apel Korejskom institutu za naprednu nauku i tehnologiju (KAIST) i njegovom partneru Hanwha Systems. najavili su da neće sarađivati ​​sa univerzitetom i ugostiti goste KAIST-a. Razlog je bila izgradnja "autonomnog oružja" koju su izvele obje institucije. KAIST je demantovao medijske izvještaje.

Ubrzo nakon toga u SAD više od 3 Google zaposlenika protestovao protiv rada čete za vojsku. Bili su zabrinuti da je Google bio partner s vladinim projektom kodnog imena Maven koji ima za cilj korištenje AI za prepoznavanje objekata i lica u video zapisima vojnih dronova. Uprava kompanije kaže da je cilj Mavena spašavanje života i spašavanje ljudi od zamornog posla, a ne agresije. Demonstranti nisu bili uvjereni.

Sljedeći dio bitke je bila deklaracija stručnjaci za umjetnu inteligenciju, uklj. radeći na Google projektu i Elon Musk. Obećavaju da neće razvijati robote. Oni također pozivaju vlade da intenziviraju napore da regulišu i ograniče ovo oružje.

U saopštenju se, delimično, kaže da "odluku o oduzimanju ljudskog života nikada ne treba doneti mašina". Iako su armije svijeta opremljene mnogim automatskim uređajima, ponekad i sa visokim stepenom autonomije, mnogi stručnjaci strahuju da bi u budućnosti ova tehnologija mogla postati potpuno autonomna, omogućavajući ubijanje bez ikakvog učešća ljudskog operatera i komandanta.

Stručnjaci također upozoravaju da bi autonomne mašine za ubijanje mogle biti još opasnije od "nuklearnog, hemijskog i biološkog oružja" jer se lako mogu izmaknuti kontroli. Ukupno je u julu prošle godine pismo pod okriljem Instituta za budućnost života (FGI) potpisalo 170 organizacija i 2464 pojedinca. U prvim mjesecima 2019., grupa medicinskih naučnika povezanih s FLI-om ponovo je pozvala na novo pismo za zabranu razvoja oružja kontroliranog umjetnom inteligencijom (AI).

Prošlogodišnji avgustovski sastanak UN-a u Gniewou o mogućoj zakonskoj regulativi vojnih "robota ubica" završio je uspjehom ... mašina. Grupa zemalja, uključujući Sjedinjene Američke Države, Rusiju i Izrael, blokirala je dalji rad na uvođenju međunarodne zabrane ovog oružja (nacrt Konvencije o zabrani ili ograničenju upotrebe određenog konvencionalnog oružja, CCW). Nije slučajno što su ove zemlje poznate po svom radu na naprednim sistemima autonomnog i robotskog oružja.

Rusija se fokusira na borbene robote

Predsjednik Vladimir Putin često se citira kako o vojnim sistemima umjetne inteligencije i borbenim robotima kaže:

-.

otvoreno govori o razvoju autonomnog oružja. Načelnik Generalštaba njenih oružanih snaga, general Valerij Gerasimov, nedavno je rekao vojnoj novinskoj agenciji Interfax-AVN da će upotreba robota biti jedna od glavnih karakteristika budućih ratova. Dodao je da se Rusija trudi potpuno automatizovati bojno polje. Slične komentare dali su i potpredsjednik vlade Dmitrij Rogozin i ministar odbrane Sergej Šojgu. Predsjednik Komiteta Vijeća Federacije za odbranu i sigurnost Viktor Bondarev rekao je da Rusija teži razvoju Roju tehnologijeovo bi omogućilo mrežama dronova da funkcionišu kao jedan entitet.

To nije iznenađujuće ako se prisjetimo da su prvi teletenkovi razvijeni u Sovjetskom Savezu 30-ih godina. Korišćeni su na početku Drugog svetskog rata. Danas Rusija takođe stvara tank roboti postaju sve autonomniji.

Putinova država je nedavno poslala svoje u Siriju Bespilotno borbeno vozilo Uran-9 (3). uređaj je izgubio kontakt sa zemaljskim kontrolnim tačkama, imao je problema sa sistemom ovjesa, a njegovo oružje nije funkcionisalo savršeno i nije gađalo pokretne mete. Ne zvuči baš ozbiljno, ali mnogi smatraju da je sirijski wipe dobar borbeni test koji će Rusima omogućiti da poboljšaju mašinu.

Roskosmos je odobrio preliminarni plan za slanje dva robota na Međunarodnu svemirsku stanicu do avgusta ove godine. Fedor (4) u Uniji bez posade. Ne kao teret, ali. Kao u filmu RoboCop, Fedor rukuje oružjem i demonstrira smrtonosno gađanje tokom vježbi gađanja.

Pitanje je zašto bi robot u svemiru bio naoružan? Postoje sumnje da nije stvar samo u zemaljskim aplikacijama. U međuvremenu na Zemlji, ruski proizvođač oružja Kalašnjikov pokazao je vizualizaciju robot Igorekšto, iako je izazvalo mnogo smijeha, signalizira da kompanija ozbiljno radi na autonomnim borbenim vozilima. U julu 2018. Kalašnjikov je objavio da pravi oružje koje koristi za donošenje odluka „pucati ili ne pucati“.

Ovoj informaciji treba dodati izvještaje da je ruski oružar Digtyarev razvio mali autonomni tenk Nerekht koji se može nečujno kretati prema svojoj meti samostalno, a zatim eksplodirati snažnom silom da uništi druge ili cijele zgrade. Kao i Tenk T14 armije , ponos ruskih oružanih snaga, dizajniran je za moguće daljinsko upravljanje i vožnju bez posade. Sputnjik tvrdi da ruski vojni inženjeri rade na tome da T-14 bude potpuno autonomno oklopno vozilo.

Direktiva o prigovoru

Sama američka vojska je nametnula prilično jasno ograničenje nivoa autonomije svog oružja. Ministarstvo odbrane SAD-a je 2012. godine izdalo Direktivu 3000.09, koja kaže da ljudi treba da imaju pravo prigovoriti akcijama naoružanih robota. (iako može biti nekih izuzetaka). Ova direktiva ostaje na snazi. Trenutna politika Pentagona je da odlučujući faktor u upotrebi oružja uvek treba da bude ličnost i da takva presuda treba da bude. u skladu sa zakonima ratovanja.

Iako Amerikanci decenijama koriste leteće, Predator, Reaper i mnoge druge supermašine, oni nisu bili i nisu autonomni modeli. Njima operateri upravljaju daljinski, ponekad sa udaljenosti od nekoliko hiljada kilometara. Burna rasprava o autonomiji mašina ovog tipa započela je premijerom prototipa. dron X-47B (5), koji ne samo da je leteo samostalno, već je mogao i da poleti sa nosača aviona, sleti na njega i dopuni gorivo u vazduhu. Značenje je i pucati ili bombardirati bez ljudske intervencije. Međutim, projekat je još uvijek u fazi testiranja i revizije.

5. Testovi bespilotnog X-47B na američkom nosaču aviona

Ministarstvo odbrane je 2003. godine počelo eksperimentirati s malim robotom nalik tenku. SPOES opremljen mitraljezom. 2007. godine poslan je u Irak. međutim, program je završio nakon što je robot počeo da se ponaša neredovito, pomjerajući svoju pušku neredovito. Kao rezultat toga, američka vojska je napustila proučavanje naoružanih kopnenih robota dugi niz godina.

Istovremeno, američka vojska je povećala svoju potrošnju na operacije sa 20 miliona dolara u 2014. na 156 miliona dolara u 2018. godini. Ovaj budžet je već skočio na 2019 miliona dolara u 327. Ovo je kumulativno povećanje od 1823% u samo nekoliko godina. Stručnjaci kažu da bi već 2025. američka vojska mogla imati bojno polje više robota vojnika nego ljudi.

U posljednje vrijeme, dosta kontroverzi je izazvala i najavila američka vojska ATLAS projekat () - automatski. U medijima je to ocijenjeno kao kršenje gore navedene direktive 3000.09. Međutim, američka vojska poriče i uvjerava da isključenje osobe iz ciklusa donošenja odluka ne dolazi u obzir.

AI prepoznaje ajkule i civile

Međutim, branioci autonomnog oružja imaju nove argumente. prof. Ronald Arkin, robotičar sa Tehnološkog instituta Džordžije, to navodi u svojim publikacijama U modernom ratovanju, inteligentno oružje je od suštinskog značaja za izbjegavanje civilnih žrtava, jer tehnike mašinskog učenja mogu efikasno pomoći u razlikovanju između boraca i civila, te važnih i nevažnih ciljeva.

Primjer takvih vještina umjetne inteligencije je patroliranje australskim plažama. dronovi Little Ripperopremljen SharkSpotter sistemom koji je razvio Tehnološki univerzitet u Sidneju. Ovaj sistem automatski skenira vodu u potrazi za morskim psima i upozorava operatera kada uoči nešto nesigurno. (6) Može identificirati ljude, delfine, čamce, daske za surfanje i predmete u vodi kako bi ih razlikovao od morskih pasa. Može otkriti i identificirati oko šesnaest različitih vrsta s visokom preciznošću.

6. Prepoznate ajkule u sistemu SharkSpotter

Ove napredne metode mašinskog učenja povećavaju tačnost zračnog izviđanja za više od 90%. Poređenja radi, ljudski operater u sličnoj situaciji precizno prepoznaje 20-30% objekata na fotografijama iz zraka. Osim toga, identifikaciju još uvijek provjerava čovjek prije alarma.

Na bojnom polju, operater, kada vidi sliku na ekranu, teško može da utvrdi da li su ljudi na zemlji borci sa AK-47 u rukama ili, na primer, farmeri sa štukama. Arkin napominje da ljudi imaju tendenciju da "vide ono što žele da vide", posebno u stresnim situacijama. Ovaj efekat je doprineo slučajnom rušenju iranskog aviona od strane USS Vincennesa 1987. Naravno, po njegovom mišljenju, oružje kontrolisano umjetnom inteligencijom bilo bi bolje od sadašnjih "pametnih bombi", koje zapravo nisu razumne. Prošlog augusta, saudijski laserski navođen projektil pogodio je autobus pun učenika u Jemenu, ubivši četrdesetoro djece.

„Ako je školski autobus pravilno označen, njegovo identifikovanje u autonomnom sistemu može biti relativno lako“, tvrdi Arkin u časopisu Popular Mechanics.

Međutim, čini se da ovi argumenti ne uvjeravaju borce protiv automatskih ubica. Pored opasnosti od robota ubica, mora se uzeti u obzir još jedna važna okolnost. Čak i "dobar" i "pažljiv" sistem mogu da hakuju i preuzmu veoma loši ljudi. Tada svi argumenti u odbranu vojne opreme gube na snazi.