Recite svom mačiću šta mislite unutra - efekat crne kutije

Činjenica da su napredni AI algoritmi poput crne kutije (1) koja odbacuje rezultat bez otkrivanja kako je do njega došlo, brine neke, a uznemiruje druge.

Godine 2015., istraživački tim u bolnici Mount Sinai u New Yorku zamoljen je da koristi ovu metodu za analizu opsežne baze podataka lokalnih pacijenata (2). Ova ogromna zbirka sadrži okean informacija o pacijentima, rezultata testova, recepata i još mnogo toga.

Naučnici su nazvali analitički program razvijen u toku rada. Obučavao se na podacima od oko 700 ljudi. ljudi, a kada je testiran u novim registrima, pokazao se izuzetno efikasnim u predviđanju bolesti. Bez pomoći stručnjaka za ljude, otkrio je obrasce u bolničkim kartonima koji ukazuju koji je pacijent na putu ka bolesti, poput raka jetre. Prema mišljenju stručnjaka, prognostička i dijagnostička efikasnost sistema bila je mnogo veća od bilo koje druge poznate metode.

2. Medicinski sistem umjetne inteligencije zasnovan na bazama podataka pacijenata

Istovremeno, istraživači su primijetili da djeluje na misteriozan način. Ispostavilo se, na primjer, da je idealan za prepoznavanje mentalnih poremećajakao što je šizofrenija, koja je izuzetno teška za doktore. Ovo je bilo iznenađujuće, pogotovo zato što niko nije imao pojma kako AI sistem može tako dobro vidjeti mentalne bolesti samo na osnovu pacijentove medicinske dokumentacije. Da, stručnjaci su bili veoma zadovoljni pomoću tako efikasnog mašinskog dijagnostičara, ali bi bili mnogo zadovoljniji kada bi shvatili kako AI dolazi do svojih zaključaka.

Slojevi umjetnih neurona

Od samog početka, odnosno od trenutka kada je koncept vještačke inteligencije postao poznat, postojala su dva gledišta o AI. Prvi je sugerisao da bi bilo najrazumnije izgraditi mašine koje razumiju u skladu sa poznatim principima i ljudskom logikom, čineći njihov unutrašnji rad transparentnim za sve. Drugi su vjerovali da bi se inteligencija lakše pojavila ako bi mašine učile kroz posmatranje i ponovljeno eksperimentiranje.

Ovo poslednje znači preokretanje tipičnog kompjuterskog programiranja. Umjesto da programer piše komande za rješavanje problema, program generiše sopstveni algoritam na osnovu podataka uzorka i željenog rezultata. Metode mašinskog učenja koje su kasnije evoluirale u najmoćnije AI sisteme poznate danas su upravo krenule putem, zapravo, sama mašina programira.

Ovaj pristup je ostao na marginama istraživanja AI sistema 60-ih i 70-ih godina. Tek početkom prethodne decenije, nakon nekih pionirskih promjena i poboljšanja, "Duboke" neuronske mreže počeo da pokazuje radikalno poboljšanje u sposobnostima automatizovane percepcije. 

Duboko mašinsko učenje dalo je računare izuzetnim sposobnostima, kao što je sposobnost da prepoznaju izgovorene reči gotovo jednako tačno kao i čovek. Ovo je previše složena vještina da bi se programirali unaprijed. Mašina mora biti u stanju da kreira sopstveni "program" po obuka na velikim skupovima podataka.

Duboko učenje je takođe promenilo kompjutersko prepoznavanje slika i uveliko poboljšalo kvalitet mašinskog prevođenja. Danas se koristi za donošenje svih vrsta ključnih odluka u medicini, financijama, proizvodnji i još mnogo toga.

Međutim, uz sve ovo ne možete samo pogledati unutar duboke neuronske mreže da vidite kako "unutra" funkcionira. Procesi mrežnog rezonovanja ugrađeni su u ponašanje hiljada simuliranih neurona, organiziranih u desetine ili čak stotine složeno povezanih slojeva..

Svaki od neurona u prvom sloju prima ulaz, kao što je intenzitet piksela na slici, a zatim izvodi proračune prije nego što ispusti izlaz. Oni se u složenoj mreži prenose do neurona sljedećeg sloja - i tako dalje, do konačnog izlaznog signala. Osim toga, postoji proces poznat kao prilagođavanje proračuna koje izvode pojedinačni neuroni tako da mreža za obuku daje željeni rezultat.

U često citiranom primjeru koji se odnosi na prepoznavanje slike psa, niži nivoi AI analiziraju jednostavne karakteristike kao što su oblik ili boja. Viši se bave složenijim pitanjima kao što su krzno ili oči. Samo gornji sloj objedinjuje sve to, identificirajući cijeli skup informacija kao psa.

Isti pristup se može primijeniti na druge vrste unosa koji pokreću mašinu da sama uči: zvukove koji čine riječi u govoru, slova i riječi koje čine rečenice u pisanom tekstu, ili volan, na primjer. pokreti neophodni za upravljanje vozilom.

Auto ne preskače ništa.

Pokušava se objasniti šta se tačno dešava u takvim sistemima. 2015. istraživači iz Google-a modificirali su algoritam za prepoznavanje slika dubokog učenja tako da umjesto da vidi objekte na fotografijama, on ih generiše ili modificira. Pokretanjem algoritma unazad, željeli su otkriti karakteristike koje program koristi za prepoznavanje, recimo, ptice ili zgrade.

Ovi eksperimenti, javno poznati kao naslov, proizveli su zadivljujuće prikaze (3) grotesknih, bizarnih životinja, pejzaža i likova. Otkrivajući neke od tajni mašinske percepcije, kao što je činjenica da se određeni obrasci stalno vraćaju i ponavljaju, pokazali su i koliko se duboko mašinsko učenje razlikuje od ljudske percepcije – na primjer, u smislu da se širi i duplicira artefakte koje ignoriramo. u našem procesu percepcije bez razmišljanja. .

3. Slika kreirana u projektu

Inače, s druge strane, ovi eksperimenti su razotkrili misteriju naših vlastitih kognitivnih mehanizama. Možda je u našoj percepciji da postoje razne nerazumljive komponente koje nas tjeraju da odmah nešto shvatimo i zanemarimo, dok mašina strpljivo ponavlja svoje iteracije na „nevažnim“ objektima.

Drugi testovi i studije su sprovedeni u pokušaju da se "razume" mašina. Jason Yosinski stvorio je alat koji djeluje poput sonde zaglavljene u mozgu, ciljajući bilo koji umjetni neuron i traži sliku koja ga najjače aktivira. U posljednjem eksperimentu, apstraktne slike su se pojavile kao rezultat "provirivanja" mreže, što je procese koji se odvijaju u sistemu učinili još misterioznijim.

Međutim, za mnoge naučnike ovakva studija predstavlja nesporazum, jer, po njihovom mišljenju, da bi se razumeo sistem, prepoznali obrasci i mehanizmi višeg reda donošenja složenih odluka, sve računske interakcije unutar duboke neuronske mreže. To je divovski labirint matematičkih funkcija i varijabli. Trenutno nam je to neshvatljivo.

Računar se neće pokrenuti? Zašto?

Zašto je važno razumjeti mehanizme donošenja odluka u naprednim sistemima umjetne inteligencije? Matematički modeli se već koriste za određivanje koji zatvorenici mogu biti pušteni na uslovnu slobodu, kome se može dati kredit, a ko može dobiti posao. Zainteresovani žele da znaju zašto je doneta ova, a ne neka druga odluka, koji su njeni osnovi i mehanizam.

priznao je u aprilu 2017. u MIT Technology Review. Tommy Yaakkola, MIT profesor koji radi na aplikacijama za mašinsko učenje. -.

Postoji čak i pravni i politički stav da je sposobnost proučavanja i razumijevanja mehanizma donošenja odluka AI sistema osnovno ljudsko pravo.

Od 2018. EU radi na tome da od kompanija zahtijeva da svojim klijentima daju objašnjenja o odlukama koje donose automatizirani sistemi. Ispostavilo se da to ponekad nije moguće čak ni sa sistemima koji izgledaju relativno jednostavni, kao što su aplikacije i web stranice koje koriste duboku nauku za prikazivanje oglasa ili preporuku pjesama.

Računari koji pokreću ove usluge sami programiraju, a oni to rade na načine koje mi ne možemo razumjeti... Čak ni inženjeri koji kreiraju ove aplikacije ne mogu u potpunosti objasniti kako to funkcionira.