Elkészült a gondolatolvasó gép is – itt az ideje aggódni?

2023. május 22. 14:01

A gondolatot beszéddé alakító technológiákon dolgoznak a tudósok. Az első eredményeket már közzé is tették a neves Nature magazinban.

2023. május 22. 14:01
null

Halaska Gábor írása a Makronómon.

írása a Makronómon.

Ha azt olvassuk, hogy itt vannak a küszöbön a gondolatolvasó robotok, akkor rögtön egy sci-fire, esetleg egy szenzációhajhász, kattintásvadász szalagcímre gondolunk egy bulvárlapból. Ugyanakkor nemrég a neves Nature magazinban jelent meg egy tanulmány, amely éppen erről szól. E szerint több, a gondolatot beszéddé alakító technológián dolgoznak. Ezek olyan agyi implantátumokat használnak, amelyek figyelik a páciens úgynevezett motoros agykéregállományának aktivitását, és gyakorlatilag megjósolják, hogy az ajkak milyen szavakat próbálnak megformálni – de ne szaladjunk ennyire előre.

Az ilyen munkakörnek már neve is van, ők a neuroetikusok. E fiatal tudományág szakértői persze megosztottak abban a kérdésben, hogy az agyszkennelést és a mesterséges intelligenciát a képzelt beszéd dekódolásához használó kísérletek veszélyt jelentenek-e az emberiségre, vagy akár csak arra, akin ezt az eljárást használják.
 
Ahogy említettük: egy a Nature magazinban közölt, kísérleteket dokumentáló tanulmányról van szó, amely az úgynevezett funkcionális mágneses rezonancia képalkotást (fMRI) használta az emberek gondolatainak dekódolására. 

E szerint a fejünkben lévő „hangokat” mostantól egy agyszkennerrel is dekódolhatjuk – legalábbis bizonyos esetekben. A kutatók ugyanis nemrég kifejlesztették az első módszert az elképzelt beszéd lényegének meghatározására. Egy olyan eljárást, ami egy elképzelt kommunikációt mutat a beszélni nem tudók számára. De 

vajon mennyire áll közel a technológia – amely jelenleg csak közepesen pontos – a valódi gondolatolvasáshoz? És hogyan biztosíthatják a döntéshozók, hogy az ilyen fejlesztésekkel ne éljenek vissza?

Mit tud ma és mit tud majd a gondolatolvasás?

Ahogy említettük, legtöbb jelenlegi, gondolatot beszéddé alakító technológia olyan agyi implantátumokat használ, amely figyeli az ember motoros kéregállományának aktivitását, és megjósolja, hogy az ajkak milyen szavakat próbálnak megformálni. A gondolat mögött rejlő jelentés megértéséhez Alexander Huth és Jerry Tang, az austini Texasi Egyetem informatikusai és kollégáik a funkcionális mágneses rezonancia képalkotást, az agyi aktivitás mérésének egy nem invazív eszközét kombinálták a mesterséges intelligencia (MI) algoritmusaival. Azaz az úgynevezett nagy nyelvi modellekkel (LLM), amelyek az olyan eszközök alapját képezik, mint a ChatGPT, és amelyeket eredetileg nem élő emberek agyhullámaival történő munkára, inkább arra fejlesztettek, hogy megjósolják a következő szót egy adott szövegben.

Hogyan működik a gondolatolvasó MI? 

A Nature Neuroscience című szaklapban május 1-jén közzétett tanulmányban a kutatók 3 önkéntest kértek fel és fektettek be egy fMRI-szkennerbe, majd rögzítették az agyi aktivitásukat, miközben az alanyok 16 órányi podcastot hallgattak. Az önkéntesek agyában zajló véráramlás mérésével és ezen információk integrálásával, az általuk hallgatott történetek részleteivel és az LLM azon képességével, hogy megértsék, hogyan kapcsolódnak egymáshoz a szavak, a kutatók egy kódolt térképet készítettek arról, hogy az egyes emberek agya hogyan reagál a különböző szavakra és kifejezésekre.

Ez után a kutatók rögzítették a résztvevők fMRI-aktivitását, miközben  elképzelték, hogy mesélnek egy történetet, vagy egy párbeszéd nélküli filmet néznek. A kutatók a korábbi, egyes emberek esetében kódolt minták és algoritmusok kombinációjával megpróbálták dekódolni ezt az új agyi aktivitást. 

Az így elkészített MI-dekóder olyan mondatokat generált az agyterületek fMRI-adataiból, amelyekből az ember gondolatainak lényege ki is derült.

A Még nincs meg a jogosítványom mondatot például úgy dekódolta, hogy még el sem kezdett vezetni tanulni. És meglehetősen pontosan leírta, hogy mit látnak az emberek a filmekben. Sok mondat azonban pontatlan volt.

Messze van még a jótól, de meddig fejlődhet?

A kutatók azt is megállapították, hogy a technológiát könnyű volt becsapni. Amikor a résztvevők egy történetre gondoltak, miközben egy felvett sztorit hallgattak, a dekóder nem tudta meghatározni a hallott szavakat. A kódolt térkép egyénenként is különbözött, ami azt jelenti, hogy 

a kutatók nem tudtak olyan dekódert létrehozni, amely mindenkinél működött volna. Huth úgy véli, még nehezebb lesz egy univerzális dekóder kifejlesztése, 

ahogy a kutatók egyre részletesebb térképeket készítenek az egyének agyáról.

Francisco Pereira, az amerikai Nemzeti Mentális Egészségügyi Intézet (National Institute of Mental Health, Bethesda, Maryland) idegkutatója szerint rendkívül nehéz meghatározni, hogy az agy hogyan hoz létre jelentést a nyelvből. „Lenyűgöző látni azt, hogy valakinek sikerül” – emelte ki. 

„Ébresztő hívás”

A neuroetikusok véleménye megoszlik arról, hogy ez az „előrelépés” veszélyt jelent-e a mentális egészségre. „Nem szeretnék pánikot kelteni, de 

– mondja Gabriel Lázaro-Muñoz bioetikus a bostoni Harvard Medical Schoolról. „Azt hiszem, ez egy nagy ébresztő a politikai döntéshozók és a nyilvánosság számára.”

Adina Roskies, a New Hampshire állambeli Hanoverben található Dartmouth Egyetem tudományfilozófusa szerint a technológia használata túl bonyolult és túl pontatlan ahhoz, hogy most veszélyt jelentsen. Először is az fMRI-szkennerek nem hordozhatók, így nehéz valakinek az agyát az együttműködése nélkül letapogatni. Másodszor: kételkedik abban is, hogy megérné az időt vagy a költségeket egy dekóder betanítása egy egyén számára a kommunikációs képességek helyreállításán kívül bármilyen más célból. 

Greta Tuckute, a cambridge-i Massachusetts Institute of Technology kognitív idegtudós kutatója biztatónak tartja, hogy a dekódolórendszert nem lehetett egyéneken alkalmazni, és hogy az emberek könnyen átverhetik azt. „Ez egy szép demonstrációja annak, hogy valójában mennyi ügynöki képességünk van” – mondja.

Csak óvatosan, mert rosszabb, mint a hazugságvizsgálat 

Mindazonáltal Roskies szerint, még ha a dekóder nem is működik jól, problémákat vethet fel, ha az ügyvédek vagy a bíróságok szeretnék használni, főként úgy, hogy nem ismerik a korlátait. A jelenlegi tanulmányban például a Csak úgy kiugrottam [az autóból] mondatot úgy dekódolták, hogy ki kellett löknöm őt az autóból. „Ez a hatalmas jelentésbeli különbség nagyon szembetűnő ahhoz, hogy egy jogi ügyben óriási különbséget jelentsen és gondot okozzon – mondja. – Attól tartok, hogy akkor is használják ezt a dolgot, amikor az adott helyzetben nem lehetne.”

Az austini Texasi Egyetem már idézett informatikusa, Jerry Tang egyetért. „A poligráf sem pontos és kellemetlen következményekkel járhat – mondta egy sajtótájékoztatón. – Senkinek az agyát nem szabadna nyitott könyvvé formálni a beleegyezése nélkül.” Így Tang és Huth felszólította a politikai döntéshozókat, hogy proaktívan foglalkozzanak azzal, hogy az agyolvasó technológiákat mikor és hogyan lehet jogszerűen használni.

Lázaro-Muñoz szerint e jogszerűséget tükrözhetné az a 2008-as amerikai törvény, amely megakadályozza, hogy a biztosítók és a munkáltatók az emberek genetikai információit diszkriminatív módon használják fel. Aggodalomra adhat okot az is, hogy a dekóder milyen hatással lehet az olyan betegségekben szenvedőkre, akiknek nem kívánt gondolataik lehetnek arról, hogy ártani akarnak másoknak, de soha nem tennének így.

Pereira szerint szintén nyitott kérdés, hogy a dekóderek mennyire pontosak, ahogy az is, hogy  egyéni helyett, univerzálisak-e. „Ez attól függ, hogy mennyire tartjuk egyedinek az embert” – mondja.

Bár ez a különleges, frissen fejlesztett „gondolatdekóder” jó lehet a következő szó megjóslásában, a metaforák vagy a szarkazmus értelmezésében mégis nehézségekbe ütközhet. Pereira szerint valójában sokkal nagyobb a lépés a szavak összerakása és annak meghatározása között, hogy az agy hogyan kódolja a szavak közötti kapcsolatokat.

 

Címlapfotó:123rf.com 
 

Összesen 11 komment

A kommentek nem szerkesztett tartalmak, tartalmuk a szerzőjük álláspontját tükrözi. Mielőtt hozzászólna, kérjük, olvassa el a kommentszabályzatot.
Sorrend:
NERbot
2023. május 30. 14:05
Szerencsére az átlagmagyarok gondolkodását mindig Orbán Viktor tölti ki, ezért egy gondolatolvasó géppel sem lehet érdemi önreflexiót detektálni náluk.
extraterrestrial
2023. május 30. 00:13
"Ébresztő hívás" - anyám borogass
nempolitizálok
2023. május 29. 21:49
Aggódjanak a libsik. Az összesről ki fog derülni, hogy nem is liberális. Látott valaki liberális libsit? Én sem. Ráadásul rengeteg tolvaj és pedofil is lebukik majd.
Muki46
2023. május 29. 21:42
A dolog szépséghibája az implantátum. KI a franc olyan hülye, hogy megengedi egy idegen test beoperálását azért, hogy mások játszhassanak vele?
Jelenleg csak a hozzászólások egy kis részét látja. Hozzászóláshoz és a további kommentek megtekintéséhez lépjen be, vagy regisztráljon!