Teave

Mis on seletatav tehisintellekt ja kas seda on vaja?

Mis on seletatav tehisintellekt ja kas seda on vaja?

Seletatav tehisintellekt-XAI on teema, mille üle on viimastel aastatel sageli vaieldud ja mis on vastuolude objektiks. Enne tehisintellekti (AI) usaldusväärsuse arutamist peaksime suutma selgitada, kuidas me oma otsuseid tegelikult teeme, kui tehisintellekt püüab meie mõtlemist ja otsuste langetamist modelleerida! Pole see?

SEOTUD: Kunstlik intelligentsus ja tundmatuse hirm

Toimub masinõppe ümberkujundamine, mis on toimunud mõnikord kiiremini ja mõnikord aeglasemalt alates 1950. aastatest. Lähiminevikus on enim uuritud ja silmatorkavam valdkond masinõpe, mille eesmärk on modelleerida otsuste süsteemi, käitumist ja reaktsioone.

Masinaõppe valdkonnas saavutatud edukad tulemused viisid tehisintellekti rakendamise kiire kasvuni. Eeltöö tõotab olla autonoomne süsteem, mis on võimeline ennast tajuma, õppima, otsustama ja liikuma.

SEOTUD: 13 TASUTA SAITI MASINATE ÕPPEKS SISSEJUHATUSE SAAMISEKS

Eriti pärast 1990. aastaid põhineb sügava õppimise kontseptsioon minevikul, kuid rekursiivsed närvivõrgud, konvolutsioonilised närvivõrgud, tugevdav õppimine ja vaidlusvõrgud on märkimisväärselt edukad. Ehkki saavutatakse edukaid tulemusi, ei ole nende süsteemide otsuste ja toimingute selgitamine või selgitamine inimkasutajatele piisav.

Selgitatava tehisintellekti ulatus

Sajad õppemudelid, mis on loodud sadade kihiliste miljonite kunstlike närvivõrkudega, pole eksimatud. Nad võivad oma usaldusväärsuse kiiresti kaotada, eriti kui neid lihtsalt eksitatakse nagu ühe piksli rünnaku korral! Siis muutub paratamatuks küsida, kui edukas või ebaõnnestunud!

Kaitseministeerium (DoD) teatab, et nutikamad, autonoomsemad ja sümbiootilisemad süsteemid seisavad silmitsi väljakutsetega.

"Seletatav tehisintellekt - eriti seletatav masinõpe - on hädavajalik, kui tulevased sõjamehed tahavad mõista, kunstlikult intelligentsete masinapartnerite tärkavat põlvkonda mõista, asjakohaselt usaldada ja tõhusalt juhtida."

Seda tüüpi täiustatud rakenduste keerukus suureneb koos õnnestumistega ja mõistmine-selgitamine muutub keeruliseks. Isegi mõnel konverentsil on ainult sessioonid, kus seda teemat arutatakse.

Uute masina- / süvaõppesüsteemide põhjused

Selle eesmärk on selgitada uute masina- / süvaõppesüsteemide põhjuseid, selgitada välja nende tugevad ja nõrgad küljed ning mõista, kuidas edaspidi käituda. Selle eesmärgi saavutamise strateegia on uute või modifitseeritud kunstliku õppimise tehnikate väljatöötamine, mis toovad paremini määratletavaid mudeleid.

Need mudelid on mõeldud kombineerimiseks kaasaegse inimese ja arvuti interaktiivse liidese tehnikaga, mis võimaldab mudeleid muuta lõpptarbija jaoks arusaadavaks ja kasulikuks selgitusdialoogiks.

Kolme põhilise ootusega soovitakse läheneda süsteemile:
▪. Selgitage eesmärki, kuidas süsteemi kujundavaid ja kasutavaid osapooli mõjutatakse.
▪. Selgitage, kuidas andmeallikaid ja tulemusi kasutatakse.
▪. Selgitage, kuidas tehisintellekti mudeli sisendid viivad väljunditeni.

"XAI on üks vähestest praegustest DARPA programmidest, mis eeldatavasti võimaldavad kolmanda laine tehisintellekti süsteeme, kus masinad mõistavad konteksti ja keskkonda, milles nad töötavad, ning aja jooksul ehitavad aluseks olevad selgitavad mudelid, mis võimaldavad neil iseloomustada reaalse maailma nähtusi . ”

Kui me läheme meditsiinipraktikast välja, peaks nii arst kui patsiendiandmete uurimine mõistma ja selgitama patsiendile, et ta pakkus asjaomasele patsiendile südameinfarkti riski otsuse tugisüsteemi soovitusel.

Selles etapis on esiteks veel üks oluline kriteerium, milliseid andmeid hinnatakse. Samuti on oluline kindlaks teha, milliseid andmeid on vaja ja mida tuleb nõuetekohaseks hindamiseks teha.

Seletuse psühholoogia

Vaatame punkti, kus keeldume kunstliku õppimistehnoloogia kasutamisest, sest me ei suuda selgitada, kuidas tehisintellekt oma otsuse annab. Teisalt ei suuda nii paljud inimesed tegelikult selgitada, kuidas nad otsust langetasid!

Kujutame ette, kuidas inimene mudeli tasandil otsuse langetas: Kui läheneme oma bioloogilisele struktuurile keemilisel ja füüsikalisel tasandil, räägime ühe ajuraku teise ajuraku elektrisignaalidest. Kui te ei ole selle selgitusega rahul, siis öelge mulle, kuidas otsustasite kohvi tellida!

Kui üks teie sõpradest on tellinud jääkohvi, tellis teine ​​kuuma kohvi ja teine ​​tellib kohvikus tassi teed. Miks nad valivad jääkohvi ja kuuma kohvi? Kas keegi oskaks seletada aju keemilisi aineid ja sünapsi? Kas oskate seletada? Kas soovite sellist selgitust? Kas sa tead, mis see on? Inimene hakkab koostama lugu sellest, kuidas ta otsustab! Loodetavasti on see fantastiline lugu, mida kuulate, proovige!

Vaadake lihtsalt oma sisend- ja väljundandmeid ning rääkige siis lõbus lugu! Tegelikult on analüütilistel ja olulistel teemadel sarnane lähenemine. Tõlgendused, läbipaistvus ja selgus on analüütilised ning testita analüüsid on nagu ühesuunaline rongipilet, mis tekitab turvatunnet.

Täiuslikes tingimustes;
▪, süsteem, mis annab parima jõudluse,
▪. Sa tahad parimat selgitust.

Kuid tegelik elu sunnib meid valima.

Toimivus vs seletatavus

Tõlgendamine: Saate aru, aga see ei toimi hästi!

Performance: Sa ei saa aru, aga töötab hästi!

Eriti akadeemikud, teadlased ja tehnoloogiaettevõtted ei pööra üldjuhul erilist tähelepanu sel määral, kuivõrd nad pööravad tulemustele suuremat tähelepanu. Stsenaarium selles sektoris osalevate inimeste ja asutustega on siiski veidi erinev. Nad tahavad usaldada ja ootavad selgitust.

Tehisintellekti lähenemisviisid erinevad pankade, kindlustusseltside, tervishoiuteenuse pakkujate ja teiste tööstusharude jaoks. Seda seetõttu, et nende sektorite mudelid toovad kaasa erinevad õiguslikud regulatsioonid ja eetikanõuded. Sel juhul jõuame taas samasse punkti. Kui soovite, et teie süsteemi selgitataks järgmises tingimuses, peate selle praegu asendama lihtsama süsteemiga, mis pole liiga tugev!

Selle teema uurimine on enamasti DARPA, Google, DeepMind ja nii edasi. Kuigi institutsioonide tegevust jätkatakse intensiivselt, on aruannetest aru saadud; Sõltumata sellest, millist sektorit ja keda tehisintellektisüsteemid kasutavad, on selguse ja täpsuse vahel selline suhe, et kompromiss on vältimatu ja tundub, et see jätkub mõnda aega.

Lõppude lõpuks ei tohiks tehisintellekti muuta jumalikuks jõuks, mille poole meid viima püütakse ilma põhjus-tagajärg-suhet loomata. Teisest küljest ei tohiks me ignoreerida teadmisi, mida meile antakse.

Põhimõtteliselt peame mõtlema paindlike ja tõlgendatavate mudelite loomisele, mis saaksid töötada koos tehniliste ja akadeemiliste teadmiste ning erinevate sektorite ja erialade arvamustega ekspertidega.

Aitäh

Täname südamest Başak Buluzit, Yavuz Kömeçoğlu ve Hakan Aydemirit tagasiside eest.


Vaata videot: iPhone 12 and iPhone 12 Pro LEATHER CASE REVIEW What is the BEST COLOR?? (Mai 2021).