Povejte svoji mucki, kaj mislite v notranjosti - učinek črne škatle

Dejstvo, da so napredni algoritmi umetne inteligence kot črna škatla (1), ki zavrže rezultat, ne da bi razkrila, kako je nastal, nekatere skrbi, druge pa vznemirja.

Leta 2015 je bila raziskovalna skupina v bolnišnici Mount Sinai v New Yorku pozvana, naj s to metodo analizira obsežno bazo podatkov o lokalnih bolnikih (2). Ta ogromna zbirka vsebuje ocean informacij o pacientih, rezultatov testov, zdravniških receptov in še več.

Znanstveniki so analitični program, razvit med delom, imenovali. Usposabljala se je na podlagi podatkov približno 700 ljudi. človeka, in ko je bil testiran v novih registrih, se je izkazal za izjemno učinkovitega pri napovedovanju bolezni. Brez pomoči strokovnjakov za ljudi je v bolnišničnih kartotekih odkril vzorce, ki kažejo, kateri bolnik je na poti do bolezni, kot je rak na jetrih. Po mnenju strokovnjakov je bila prognostična in diagnostična učinkovitost sistema veliko višja kot pri vseh drugih znanih metodah.

2. Medicinski sistem umetne inteligence, ki temelji na bazah podatkov pacientov

Hkrati so raziskovalci opazili, da deluje na skrivnosten način. Izkazalo se je na primer, da je idealen za prepoznavanje duševnih motenjkot je shizofrenija, ki je za zdravnike izjemno težka. To je bilo presenetljivo, še posebej, ker nihče ni imel pojma, kako lahko sistem umetne inteligence tako dobro vidi duševne bolezni samo na podlagi bolnikove zdravstvene dokumentacije. Da, strokovnjaki so bili zelo zadovoljni s pomočjo tako učinkovitega strojnega diagnostika, vendar bi bili veliko bolj zadovoljni, če bi razumeli, kako AI pride do svojih zaključkov.

Plasti umetnih nevronov

Od samega začetka, torej od trenutka, ko je postal znan koncept umetne inteligence, sta obstajala dva stališča do AI. Prvi je predlagal, da bi bilo najbolj smiselno zgraditi stroje, ki razmišljajo v skladu z znanimi načeli in človeško logiko, tako da je njihovo notranje delovanje pregledno za vse. Drugi so verjeli, da bi se inteligenca pojavila lažje, če bi se stroji naučili z opazovanjem in ponavljajočimi se eksperimenti.

Slednje pomeni obračanje tipičnega računalniškega programiranja. Namesto da bi programer pisal ukaze za rešitev problema, ga generira program lasten algoritem na podlagi vzorčnih podatkov in želenega rezultata. Metode strojnega učenja, ki so se kasneje razvile v najmočnejše sisteme umetne inteligence, ki jih poznamo danes, so pravkar šle po poti, stroj sam programira.

Ta pristop je ostal na robu raziskav sistemov AI v 60. in 70. letih. Šele v začetku prejšnjega desetletja, po nekaj pionirskih spremembah in izboljšavah, "globoke" nevronske mreže začeli dokazovati radikalno izboljšanje zmožnosti avtomatiziranega zaznavanja. 

Globoko strojno učenje je računalnike obdarilo z izjemnimi sposobnostmi, kot je sposobnost prepoznavanja izgovorjenih besed skoraj tako natančno kot človek. To je preveč zapletena veščina, da bi jo lahko programirali vnaprej. Stroj mora biti sposoben ustvariti lasten "program". usposabljanje na velikih nizih podatkov.

Globoko učenje je spremenilo tudi računalniško prepoznavanje slik in močno izboljšalo kakovost strojnega prevajanja. Danes se uporablja za sprejemanje vseh vrst ključnih odločitev v medicini, financah, proizvodnji itd.

Vendar ob vsem tem ne morete samo pogledati v globoko nevronsko mrežo, da bi videli, kako deluje "znotraj". Procesi omrežnega sklepanja so vgrajeni v vedenje na tisoče simuliranih nevronov, organiziranih v desetine ali celo stotine zapleteno medsebojno povezanih plasti..

Vsak nevron v prvi plasti prejme vhod, kot je intenzivnost slikovne pike na sliki, in nato izvede izračune, preden izpiše izhod. V zapletenem omrežju se prenašajo na nevrone naslednje plasti - in tako naprej, do končnega izhodnega signala. Poleg tega obstaja postopek, znan kot prilagajanje izračunov, ki jih izvajajo posamezni nevroni, tako da vadbena mreža ustvari želeni rezultat.

V pogosto citiranem primeru, povezanem s prepoznavanjem podob psa, nižje ravni AI analizirajo preproste značilnosti, kot sta oblika ali barva. Višje se ukvarjajo z bolj zapletenimi vprašanji, kot so krzno ali oči. Samo zgornja plast združuje vse skupaj in identificira celoten nabor informacij kot psa.

Enak pristop je mogoče uporabiti za druge vrste vnosa, ki poganjajo stroj, da se uči sam: zvoki, ki sestavljajo besede v govoru, črke in besede, ki sestavljajo stavke v pisnem besedilu, ali volan, na primer. gibi, ki so potrebni za vožnjo vozila.

Avto ne preskoči ničesar.

Poskuša se razložiti, kaj se točno dogaja v takih sistemih. Leta 2015 so raziskovalci pri Googlu spremenili algoritem globokega učenja za prepoznavanje slik, tako da je namesto da bi videl predmete na fotografijah, jih ustvaril ali spremenil. Z zagonom algoritma nazaj so želeli odkriti značilnosti, ki jih program uporablja za prepoznavanje, recimo, ptice ali zgradbe.

Ti poskusi, javno znani kot naslov, so ustvarili neverjetne upodobitve (3) grotesknih, bizarnih živali, pokrajin in likov. Z razkritjem nekaterih skrivnosti strojnega zaznavanja, kot je dejstvo, da se določeni vzorci večkrat vračajo in ponavljajo, so pokazali tudi, kako se globoko strojno učenje razlikuje od človeške percepcije – na primer v smislu, da razširi in podvoji artefakte, ki jih ignoriramo. v našem procesu zaznavanja brez razmišljanja. .

3. Slika ustvarjena v projektu

Mimogrede, po drugi strani pa so ti poskusi razkrili skrivnost naših lastnih kognitivnih mehanizmov. Morda je v našem dojemanju, da obstajajo različne nerazumljive komponente, zaradi katerih nekaj takoj razumemo in prezremo, medtem ko stroj potrpežljivo ponavlja svoje ponovitve na »nepomembnih« predmetih.

Drugi testi in študije so bili izvedeni v poskusu "razumevanja" stroja. Jason Yosinski ustvaril je orodje, ki deluje kot sonda, zagozdena v možganih, cilja na kateri koli umetni nevron in išče sliko, ki ga najmočneje aktivira. V zadnjem poskusu so se pojavile abstraktne podobe kot posledica »kukanja« v omrežje, zaradi česar so procesi, ki se odvijajo v sistemu, še bolj skrivnostni.

Vendar je za mnoge znanstvenike takšna študija nesporazum, saj je po njihovem mnenju za razumevanje sistema, za prepoznavanje vzorcev in mehanizmov višjega reda sprejemanja kompleksnih odločitev, vse računalniške interakcije znotraj globoke nevronske mreže. To je velikanski labirint matematičnih funkcij in spremenljivk. Trenutno nam je to nerazumljivo.

Računalnik se ne zažene? zakaj?

Zakaj je pomembno razumeti mehanizme odločanja naprednih sistemov umetne inteligence? Matematični modeli se že uporabljajo za določanje, kateri zaporniki se lahko pogojno izpustijo, kdo lahko dobi posojilo in kdo lahko dobi službo. Zainteresirani bi radi vedeli, zakaj je bila sprejeta ta in ne druga odločitev, kakšni so njeni razlogi in mehanizem.

je priznal aprila 2017 v reviji MIT Technology Review. Tommy Yaakkola, profesor MIT, ki dela na aplikacijah za strojno učenje. -.

Obstaja celo pravno in politično stališče, da je sposobnost pregleda in razumevanja mehanizma odločanja sistemov umetne inteligence temeljna človekova pravica.

Od leta 2018 si EU prizadeva za to, da od podjetij zahteva, da svojim strankam zagotovijo pojasnila o odločitvah, ki jih sprejmejo avtomatizirani sistemi. Izkazalo se je, da to včasih ni mogoče niti pri sistemih, ki se zdijo razmeroma preprosti, kot so aplikacije in spletna mesta, ki uporabljajo globoko znanost za prikazovanje oglasov ali priporočanje pesmi.

Računalniki, ki izvajajo te storitve, sami programirajo in to počnejo na načine, ki jih ne moremo razumeti... Tudi inženirji, ki ustvarjajo te aplikacije, ne znajo v celoti razložiti, kako deluje.