Mitmesugust

Uus tehisintellekti tööriist aitab meil võidelda tehisintellekti koostatud võltsuudiste ja ülevaadetega

Uus tehisintellekti tööriist aitab meil võidelda tehisintellekti koostatud võltsuudiste ja ülevaadetega

Viimase paari kuu jooksul on tehisintellekti tööriistad tekitanud tõsist muret selle üle, kuidas neid on kasutatud ja mida saab kasutada üldsuse manipuleerimiseks.

Mis on lahendus? Harvardi ja MITi teadlaste sõnul on parem lahendus kui Skyneti lihtsalt vooluvõrgust eemaldamine.

Parim viis tehisintellekti võitmiseks on tegelikult tehisintellekt, ütlevad nad.

SEOTUD: ELON MUSKI NEURALINKI ESITAMISE PÕHIVÕTTED: AJahaiguste lahendamine ja AI ohu leevendamine

Tehisintellekt vs tehisintellekt

Tehisintellekti saab kasutada võltsuudiste levitamiseks, võltsülevaadete kirjutamiseks ja sotsiaalmeedia kasutajate teesklusmargi loomiseks, mille eesmärk on pommitada kommentaaride jaotisi konkreetsete päevakavadega.

Kuid MIT-i teadlaste sõnul saab seda nüüd kasutada ka kunstlikult loodud võltsitud teksti märkamiseks - ilmselt on selle tundmiseks vaja.

Ehkki väärinfo tehnoloogia areneb murettekitavalt kiiresti, saab õnneks sama vale teabe leidmiseks kasutada sama laia tööriistakomplekti. Võltsuudiste, süvavõltside ja twitteribotite päevad võivad olla loetud just tehnoloogiast, mis aitas neid luua.

Statistiliste tekstimustrite tuvastamine

Harvardi ülikooli ja MIT-IBM Watson AI Labi teadlased töötasid hiljuti välja uue tööriista, mis tuvastab tehisintellekti loodud teksti.

Tööriist, mida nimetatakse hiiglasliku keelemudeli testiruumiks (GLTR), kasutab ära asjaolu, et tehisintellekti tekitajad kasutavad tekstis üsna prognoositavaid statistilisi mustreid.

Kuigi teie keskmise lugeja jaoks ei pruugi neid mustreid hõlpsasti märgata, näib, et algoritm saab sellega päris hästi hakkama. Tehisintellekti tööriist võib sisuliselt öelda, kas tekst on liiga etteaimatav, et inimene oleks selle kirjutanud.

Kuidas see töötab?

GLTR testib tekstides prognoositavust, vaadeldes statistilist tõenäosust, kui lause valitakse ühe sõna järel.

Me jooksime avakäigu 1984 tööriista kaudu, et George Orwell tempot läbida - ja tõestada, et ta ei olnud tegelikult tehisintellekt, mis saadeti ajas tagasi tulevikust.

Vähem prognoositavaid sõnu tähistab lilla värv - nende puistamine kogu tekstis näitab, et suure tõenäosusega on selle kirjutanud inimese käsi.

Rohelised sõnad on seevastu kõige paremini prognoositavad, samas kui kollane ja punane langevad nende vahele.

Muidugi võime ette kujutada tulevikku, kus teksti genereerivaid masinõppevahendeid koolitatakse nende lillade sõnade kallal, et GLTR-i petta, tehes seda inimlikumaks - siin on lootus, et GLTR-i teadlased suudavad sammu pidada.

Tehisintellekt vs inimesed?

GLTR-i testimiseks palusid teadlased Harvardi õpilastel tuvastada tehisintellekti abil loodud tekst - esiteks tööriista abil ja seejärel ilma selleta.

Õpilased märkasid iseseisvalt vaid pooled kõigist võltstekstidest. Tööriistaga seevastu märkasid nad 72%.

Ehkki katse viis inimesed ja tehisintellekt - võib-olla õudne tuleviku ettekujutus -, ütleb üks teadlastest, et nende lõppeesmärk on erinev:

"Meie eesmärk on luua inimeste ja tehisintellekti koostöösüsteemid," doktor Sebastian Gehrmann. projektis osalenud üliõpilane, ütles MIT GLTR-i käsitlevas väljaandes.

Kui soovite uut tööriista ise proovida, leiate selle siit. Teadlased avaldasid hiljuti katseid ja uut tööriista kirjeldava dokumendi.

Tulevikus võib maailma juhtide usutavate sügavate võltsitud videotega tekitada tohutuid poliitilisi rahutusi ja tehisintellekti abil loodud teksti võidakse kasutada valeinformatsiooni massiliseks levitamiseks. Õnneks võib sama tehnoloogia pakkuda ka probleemile lahenduse.


Vaata videot: - Häirekeskuse tulevikuvisiooniks peetakse tehisintellekti (Mai 2021).