Mitmesugust

Tehisintellekti koolitamine on keskkonnale šokeerivalt kulukas

Tehisintellekti koolitamine on keskkonnale šokeerivalt kulukas

Oleme näinud uute tehisintellektiga töötavate algoritmide tulemusi, mis suudavad teha kõike alates vähi avastamisest kuni autode juhtimiseni.

Tehisintellekt on nii paljude uute tehnoloogiate liikumapanev jõud, kuid mis hinnaga?

Uus aruanne näitab, et ühine tehisintellekti koolitusmudel võib eraldada rohkem kui 626 000 naela süsinikdioksiidi ekvivalenti. See on umbes viis korda keskmise ameerika auto eluea heitkogus - sealhulgas auto enda toodang.

VAATA KA: AIS JÄTKAKSE JÄTKAMA ENNE MÄRGITAMATUTEL VÕIMALUSTEL, KAS PALUSIME?

Kuigi mõned tehisintellekti teadlased on märkinud oma tegude võimalikku keskkonnamõju, on tegelik arv sektorit šokeerinud.

Masinate keelest arusaamine on keskkonnale kahjulik

Selles artiklis vaadeldi loomuliku keele töötlemise (NLP) protsessi. see tehisintellekti alaväli on suunatud võistlusmasinatele, et töötada inimkeelega. NLP arenduskogukond on viimastel aastatel teinud põnevaid läbimurdeid. Selle valdkonna teadlaste töö vastutab sellise tehnoloogia eest nagu masintõlge ja lausete lõpuleviimine.

Need edusammud on paljudes rakendustes ülimalt kasulikud, kuid sinna jõudmiseks on koolituseks vaja tohutuid Internetist kraabitud andmekogumeid. Nende laialivalguvate andmekogumite muundamine mõttetusest treeningprogrammiks võtab tohutult arvuti võimsust ja sellest tulenevalt tohutult energiat.

Tuleb tegeleda elektrikuludega

Uuriti nelja mudelit, mille teadlased määrasid vastutavaks jõudluse suurima edasimineku eest; trafo, ELMo, BERT ja GPT-2.

Et teada saada, kui palju süsinikdioksiidi heitkoguseid mudelid põhjustasid, koolitasid teadlased kõigil mudelitel kuni ühe päeva ühe GPU-ga - et mõõta selle võimsust.

Seejärel kasutasid nad mudeli originaaldokumentides märgitud treeningtundide arvu, et arvutada kogu energia, mida kogu treeningprotsess kulutaks.

See arv teisendati seejärel naeladeks süsinikdioksiidi ekvivalendiks. Tulemused näitavad, et koolituse arvutuslikud ja keskkonnakulud kasvasid proportsionaalselt mudeli suurusega.

Viimased sammud on kõige kulukamad

Kulud tõusid õhku, kui mudeli täpsuse suurendamiseks lisati täiendkoolitus.

Näiteks häälestusprotsessil, mida nimetatakse närviarhitektuuriks ja mis kasutab katse-eksituse meetodil mudeli optimeerimiseks võrgudisaini kohandamise kaudu, on suured võrevoodid vähese üldise kasu saamiseks.

Selle viimase etapi eemaldamisega oli kõige kulukamal mudelil BERT palju tagasihoidlikum süsinikdioksiidi jalajälg, umbes 1400 naela süsinikdioksiidi. See on peaaegu samaväärne ühe inimese edasi-tagasi lennuga üle Ameerika.

Kõige hullem on see, et teadlaste sõnul on tegemist tagasihoidlike numbritega, mis põhinevad mudeli treenimisel võimalikult minimaalsel tasemel. Ja enamikul suurtel koolitusprogrammidel on tegelikult palju suurem jalajälg, kui nad arendavad tõusvate programmide osi nullist.

Nende arvude mõju on tohutu.

Tehisintellekt juhib kõike alates meditsiiniuuringutest kuni kaitseni. Dokumendi autorid väljendavad muret tehisintellekti arengu kolimise pärast akadeemilisest ringkonnast privaatsesse maailma. Tehisintellekti arendamise kulud on nii kõrged, nagu käesolevas dokumendis näha, et haridusasutused ei suuda sammu pidada.

Tehisintellekti arengu jälgimine ja jälgimine võib muutuda üha raskemaks.


Vaata videot: Elements of AI: Ihr kostenloser Online-Kurs zur Künstlichen Intelligenz (Jaanuar 2022).