Google i drugi grade AI sustave koji sumnjaju u sebe

Istraživači u tvrtkama Uber i Google rade na izmjenama dvaju najpopularnijih okvira za dublje učenje koji će im omogućiti da obrađuju vjerojatnost. To će osigurati način da pametniji AI program mjeri njihovo povjerenje u predviđanje ili odluku u osnovi, kako bi znali kad da sumnjaju u sebe.

Duboko učenje, koje uključuje unos primjernih podataka velikoj i moćnoj neuronskoj mreži, bio je ogroman uspjeh tijekom posljednjih nekoliko godina, što omogućava strojevima prepoznavanje objekata na slikama ili precizno prepisivanje govora. Ali to zahtijeva puno podataka o obuci i računalnoj snazi, a može biti iznenađujuće lomljivo.

Nešto proturječno, ova samosvjesnost nudi jedno rješenje. Novi pristup mogao bi biti koristan u kritičnim scenarijima koji uključuju samo-vozeće automobile i druge autonomne strojeve.

“Voljeli biste sustav koji vam daje mjeru koliko je siguran”, kaže Dustin Tran, koji radi na ovom problemu na Googleu. “Ako automobil koji vozi samostalno ne zna svoju razinu nesigurnosti, može napraviti kobnu pogrešku, a to može biti katastrofalno”.

Rad odražava shvaćanje da je nesigurnost ključni aspekt ljudskog razmišljanja i inteligencije. Dodavanje u AI programe moglo bi ih učiniti pametnijima i manje sklonim pogreškama, kaže Zoubin Ghahramani, istaknuti istraživač AI koji je profesor na Sveučilištu u Cambridgeu i glavni znanstvenik u Uberu.

To se može dokazati vitalno kad se AI sustavi koriste u sve kritičnijim scenarijima. “Želimo imati čvrst okvir za dublje učenje, ali olakšati ljudima da predstavljaju nesigurnost”, rekao je Ghahramani tijekom velike konferencije AI u Long Beachu u Kaliforniji.

Tijekom iste AI konferencije, skupina istraživača okupila se u obližnjem baru jednog popodneva kako bi raspravljala o Pyro, novom programskom jeziku koji je objavio Uber koji spaja duboko učenje s probabilističkim programiranjem.

Susret u Long Beachu organizirao je Noah Goodman, profesor na Stanfordu koji je također povezan s Uberovim AI Labom. Sa kovrčavom, neurednom kosom i otkopčanom košuljom moglo ga se lako zamijeniti s učiteljem joge, a ne AI stručnjakom. Među onima na skupu bio je Tran, koji je također pridonio razvoju Pyra.

Goodman objašnjava kako davanje dubokom učenju sposobnosti da obrađuje vjerojatnost može ga učiniti pametnijim na nekoliko načina. Primjerice, mogao bi pomoći programu prepoznati stvari, s razumnim stupnjem sigurnosti, iz samo nekoliko primjera, a ne tisuća. Ponuditi mjeru sigurnosti, a ne odgovoriti sa da ili ne, također bi trebalo pomoći u projektiranju složenih sustava.

I dok konvencionalni sustav dubokog učenja uči samo od podataka koji se unose, Pyro se također može koristiti za izgradnju sustava preprogramiranog znanjima. To bi moglo biti korisno u bilo kojem scenariju u kojem se strojno učenje može trenutačno pojaviti.

“U slučajevima gdje imate prethodno znanje koje želite izgraditi u modelu, probabilističko programiranje je osobito korisno”, kaže Goodman. “Ljudi će koristiti Pyro za sve vrste stvari.”

Edward je drugi programski jezik koji obuhvaća neizvjesnost, ovaj je razvijen na Sveučilištu Columbia s financiranjem iz DARPA-e. I Pyro i Edward su još uvijek u ranoj fazi razvoja, ali nije teško vidjeti zašto su Uber i Google zainteresirani.

Uber koristi strojno učenje na bezbrojnim područjima, od usmjeravanja vozača do postavljanja cijena nadzora, i naravno u vlastitim automobilima. Tvrtka je uložila mnogo u AI, zapošljavajući brojne stručnjake koji rade na novim idejama. Google je obnovio cijeli svoj posao oko AI i malo kasno duboko učenje.

David Blei, profesor statistike i računalnih znanosti na Sveučilištu Columbia i Tranov savjetnik, kaže da je kombinacija dubokog učenja i probabilističkog programiranja obećavajuća ideja koja treba više posla. “U principu, vrlo je moćan”, kaže on. “Ali ima mnogo, mnogo tehničkih izazova.”

Ipak, kako Goodman piše, Piro i Edward također su značajni za okupljanje dviju konkurentskih škola u AI, jedan usmjeren na neuronske mreže, a drugi na vjerojatnost.

Posljednjih godina, škola neuronske mreže je tako dominantna da su ostale ideje sve ostale iza sebe. Da biste krenuli naprijed, polje možda treba obuhvatiti ove druge ideje.

“Zanimljiva je priča da ne morate misliti na ove kampove kao zasebne”, kaže Goodman. “Mogu se spojiti – zapravo, oni se okupljaju – u alatima koje gradimo.”

Možete čak reći da postaju pametniji, djelomično, uče ono što ne znaju.

Izvor: https://www.technologyreview.com/s/609762/google-and-others-are-building-ai-systems-that-doubt-themselves/?source=download-metered-content

Share

Leave a Reply

Your email address will not be published. Required fields are marked *