Miért látnak AI-t ott is, ahol nincs?

Napjainkban már szinte boszorkányüldözés folyik az interneten, az oktatásban és a médiában a mesterséges intelligencia által generált szövegek ellen. Egyre-másra szaporodnak az ingyenes és a méregdrága, előfizetéses AI-detektorok, amelyek azt ígérik: képesek kiszűrni a mesterséges intelligencia munkáját az írásokból.

Írással foglalkozó emberként utánajártam a dolognak. Nem nagyon. Csak annyira, amennyire bármelyikünk megteheti: fogtam néhány szöveget, és kipróbáltam rajtuk néhány széles körben hozzáférhető detektort.

Az eredmény? Finoman szólva is meghökkentő.

Az általam kipróbált programok ugyanis olyan magabiztossággal mondtak ítéletet ember által írt szövegekről, hogy egy idő után már nem is az érdekelt, mennyi AI-t találnak bennük. Hanem az: milyen alapon?

Nem vagyok programozó, és mesterségesintelligencia-kutató sem. Nem látok bele a kódok mögötti matematikai mélységekbe. (Te jó ég, dehogy!) De nincs is szükségem szakértői diplomára ahhoz, hogy észrevegyem az ordító anomáliákat.

Az első meglepetést az az elképesztő időutazás okozta, amelyre ezek a detektorok képesek. Néhány ingyenes, széles körben hozzáférhető alkalmazást magyar klasszikusok szövegeivel próbáltam ki. Olyan írásokkal, amelyek akkor születtek, amikor a mai értelemben vett mesterséges intelligencia még nem létezett.

Móricz Zsigmond 1935-ös Tyúkleves című írásának jelentős részére az egyik program mesterséges intelligenciát jelzett.

Rendben. Próbáljunk valami régebbit!

Elővettem Ady Endrét. Az Ismeretlen Korvin-kódex margójára című, 1905-ben megjelent publicisztikájának egy részletét az egyik detektor 25 százalékban AI-tartalomnak, további 54 százalékban pedig emberi és mesterséges intelligencia „keverékének” minősítette.

Ady. 1905-ben.

Na, álljunk meg egy pillanatra.

 

 

 

Nem kell programozónak lennem ahhoz, hogy itt valami nagyon nincs rendben. Nem tudom, milyen matematikai modell alapján jutott erre az eredményre a program, és nem is akarok úgy tenni, mintha tudnám. Egyvalamit viszont tudok: Ady szövegében nem működhetett közre az a mesterséges intelligencia, amelynek jelenlétét a program most kimutatni véli.

Ady után már kíváncsi lettem magamra is. Elővettem néhány régi írásomat, köztük 2005-ben és 2007-ben született szövegeket. Nem tegnap írtam őket, nem a ChatGPT megjelenése után, hanem közel két évtizeddel ezelőtt. Ott vannak azóta is a régi archívumomban.

Bemásoltam őket.

A gép ezekben is AI-t talált.

Ezen a ponton már nem nevettem annyira.

Mert amíg Ady esetében az eredmény abszurd és mulatságos, a saját szövegemnél hirtelen személyessé vált a kérdés. Mi történik akkor, ha ugyanezt a százalékot nem én látom a saját monitoromon, hanem egy szerkesztő, egy pályázat kiírója, egy tanár vagy bárki más, akinek döntenie kell arról, hogy valóban én írtam-e azt, ami előtte van?

És mi történik, ha hisz a gépnek?

Talán éppen itt kezdődik az igazi baj. Nem ott, hogy egy program téved. Programok tévednek. Emberek is. Hanem ott, amikor a képernyőn megjelenő százalékból ítélet lesz.

Téves információból téves következtetés születhet. A téves következtetésből pedig előítélet.

Már nem azt kérdezzük: ki írta ezt a szöveget? Hanem azt: hogyan bizonyítod be, hogy te írtad?

És itt válik az egész többé egy rosszul sikerült technikai mutatványnál. Szerzőségről, eredetiségről, megengedett vagy tiltott közreműködésről beszélünk iskolákban, szerkesztőségekben, pályázatok kiírásaiban. Önmagában ezzel semmi bajom. Aki pályázatot ír ki, szabályokat állapíthat meg. Mondja meg világosan, mit fogad el és mit nem.

De akkor mondja meg azt is: hogyan állapítja meg, hogy megszegtem a szabályt?

Mert ha ehhez elegendő egy AI-detektor által kidobott százalék, akkor bajban vagyunk. Az előbb ugyanez a technika Ady szövegében is mesterséges intelligenciát talált. Az én közel húszéves írásaimban is. Milyen alapon válik tehát egy valószínűséget, gyanút vagy valamiféle nyelvi hasonlóságot jelző szám bizonyítékká?

Nem azzal vitatkozom, hogy a szerzőnek vállalnia kell a saját művét. Vállalja. Azt is elfogadom, hogy egy pályázat kiírója kizárhatja a mesterséges intelligenciával létrehozott műveket. De ha valakit azzal gyanúsítunk, hogy nem ő írta azt, ami alatt a neve szerepel, akkor már nem egy szöveget minősítünk. Az embert is.

És ott már kevés nekem egy százalék a monitoron.

Ráadásul mit nevezünk AI-közreműködésnek? Ha egy program kijavít egy elütést, már közreműködött a mű létrehozásában? Ha helyesírási hibát jelez? Ha azt mondja, hogy egy mondatom nyakatekert? És miben különbözik ez attól, amikor ugyanezt húsz évvel ezelőtt egy szerkesztő tette meg ceruzával a kézirat szélén?

Van különbség aközött, hogy valaki megírat egy novellát a géppel, és aközött, hogy a saját novellájában kijavíttat vele három vesszőhibát. Ha ezt a kettőt egyetlen szóval intézzük el – „AI-közreműködés” –, akkor megint összekevertük a szezont a fazonnal.

És akkor jött a hab a tortán.

Az egyik program megvizsgálta a régi, ember által írt szövegemet, talált benne mesterséges intelligenciát, majd készségesen felajánlotta, hogy segít. „Humanizálja” nekem.

Tessék?

A saját, emberként megírt szövegemet egy mesterséges intelligencia emberibbé teszi, hogy egy másik mesterséges intelligencia ne gondolja róla, hogy mesterséges intelligencia írta?

Próbálom még egyszer.

Én megírtam. A gép szerint a gép írta. Ezért a gép átírná úgy, hogy a gép végre elhiggye: én írtam.

Tud engem valaki követni?

És mindez természetesen nem feltétlenül puszta emberbaráti segítség. Az általam kipróbált egyik szolgáltatás a „humanizálás” lehetőségét fizetős konstrukcióban kínálta. Vagyis előbb kaptam egy eredményt, amely kétségbe vonta a saját szövegem emberi eredetét, majd ugyanott megjelent a lehetőség arra is, hogy a problémát egy újabb gépi beavatkozással orvosoljam.

Itt azért már megáll az ember kezében a kávéscsésze.

Mert ha elfogadom az ajánlatot, éppen azt teszem a szövegemmel, amivel eredetileg meg sem lehetett volna vádolni: mesterséges intelligenciát engedek bele. Egy húsz évvel ezelőtt ember által megírt szövegbe. Azért, hogy emberinek látsszon.

Nem tudom, ez technológiai fejlődés-e. Üzleti modellnek mindenesetre figyelemre méltó.

Nem a mesterséges intelligenciával van bajom. Használom. Ismerem az előnyeit, és egyre inkább látom a veszélyeit is. Azzal sincs bajom, ha valaki világos szabályokat állít fel arra, hogy egy pályázaton, egy iskolai dolgozatban vagy egy szerkesztőségnek beküldött írásban mi számít megengedett segítségnek.

Legyenek szabályok. De legyenek tisztességesek.

A baj ott kezdődik, amikor a gyanúból bizonyosság lesz. Amikor egy százalék ítéletté változik. Amikor már nem a gépnek kell bizonyítania, hogy igaza van, hanem az embernek kell bizonygatnia, hogy ő az ember.

Én megtettem egy nagyon egyszerű próbát. Nem laboratóriumban. Nem tudományos kutatás keretében. Fogtam olyan szövegeket, amelyek eredetéről nem lehet vita, mert évtizedekkel vagy több mint egy évszázaddal ezelőtt születtek, és megmutattam őket néhány mai AI-detektornak.

A gép pedig AI-t talált bennük.

Adyban. Móriczban. A saját, közel húszéves írásaimban.

Ennél többet ebből a kis kísérletből nem akarok bizonyítani. Nem állítom, hogy minden AI-detektor rossz. Nem állítom, hogy minden eredményük téves. Azt viszont állítom, mert a saját szememmel láttam: egy ilyen eredmény önmagában nem lehet bizonyíték arra, hogy egy szöveget mesterséges intelligencia írt.

Mert a tévedés itt már nem egyszerű technikai hiba. A téves információból téves következtetés születhet. A téves következtetésből pedig előítélet.

És ha eljutunk odáig, hogy egy embernek gépek előtt kell bizonyítania a saját gondolatainak, a saját mondatainak, végső soron a saját alkotásának emberi eredetét, akkor valamit nagyon elrontottunk.

Ady nem tud védekezni.

Én még igen.

És ha egy AI-detektor szerint ez a cikk is mesterséges intelligencia segítségével született?

Nos, akkor legalább lesz miről megírnom a folytatást.