Tizenhat éve vagyok ezen a pályán, és eddig azt hittem, tudom, mi tud tönkretenni egy könyvszerződést: a rossz eladási előrejelzés, egy megbukott szerzői vita, egy csúszó határidő. Ez a nyár megtanított rá, hogy van egy új tényező is a listán, és félelmetesen gyorsan dolgozik. Nem bizonyíték, nem beismerés, csupán egyetlen gyanú.
Július végén omlott össze minden idők egyik legnagyobb debütáns szerződése. Jerry Falade elsőkönyves krimijét, a Call Me, I’ll Hide the Body címűt tizennégy kiadó licitálta fel egy aukción, végül a Macmillan Minotaur imprintje vitte el több mint kétmillió dollárért – az Egyesült Királyságban pedig a HarperCollins hatjegyű ajánlattal szállt be. Hollywood már a megfilmesítési jogokért versengett, még mielőtt a könyv megjelent volna. Aztán az ügynökség levelet küldött a kiadóknak: nem tudják hitelt érdemlően igazolni, hogyan alakult a kézirat az eredeti formájától a végleges változatig. A bizalom, amit korábban a szerző szavára alapoztak, elpárolgott. A szerződést visszavonták, a könyvet levették a piacról.
Falade azóta a nyilvánosság előtt tagad, ügyvédet fogadott, és azt állítja, a vádak mögött egy visszatérő minta áll: szerinte, ha egy színesbőrű szerző köt élete üzletét, valaki előbb-utóbb megkérdőjelezi, hogy tényleg ő írta-e. Időbélyeges jegyzeteket, 2021-es – tehát a ChatGPT elterjedése előtti – professzori visszajelzéseket mutatott fel a védelmére. Nem az én dolgom eldönteni, kinek van igaza. De azt fontosnak tartom leszögezni: az, hogy ez a kérdés egyáltalán felmerülhet ilyen élesen, önmagában jelzi, hogy valami hiányzik a rendszerből.
Nem elszigetelt eset.
Márciusban a Hachette – a világ egyik legnagyobb kiadócsoportja – visszavonta Mia Ballard Shy Girl című horrorregényét, miután a BookTok-közösségben felmerült a gyanú, hogy AI segítségével készült. Ez volt az első eset, hogy egy nagy amerikai kiadó kereskedelmi forgalomban lévő regényt vont vissza kifejezetten AI-gyanú miatt. Ballard tagadta a vádakat, és azóta jogi lépéseket fontolgat. A története annyiban is hasonlít Faladéra, hogy ő is olyan szerző, akit a kritikusok szerint aránytalanul gyorsan ítéltek el bizonyíték helyett gyanú alapján.
És itt jön az a rész, ami miatt szerintem ez a téma sokkal bonyolultabb, mint egy egyszerű „lebukott” sztori. Ugyanebben az időszakban H. M. Wolfe Daggermouth című, milliós példányszámban fogyó regényét egy egyetemi kutatás (Stony Brook University) az általuk vizsgált több mint 14 000 Kindle-könyv közül a legmagasabb AI-gyanúpontszámmal – a Pangram detektor szerint 60%-kal – jelölte meg. A Simon & Schuster Kiadó ennek ellenére kiadta a könyvet, kiállt mellette, és azt kommunikálta, hogy ugyanazon a szerkesztési folyamaton ment át, mint bármelyik másik címük. Wolfe tagad. A Ballard-üggyel szemben itt semmi nem omlott össze. Ugyanaz a gyanú, ugyanaz a technológia, teljesen más kimenetel.
Ez a következetlenség a lényeg.
Ha három hasonló gyanú három teljesen különböző sorsra jut – az egyik szerződést bukik, a másik pert fontolgat, a harmadik simán bestseller-listás marad –, akkor nem egy működő ellenőrzési rendszerről beszélünk, hanem esetenkénti pánikról. És ennek a pániknak szinte kizárólag egyetlen „bizonyítéka” van: az AI-detektorok pontszáma.
Csakhogy ezek a detektorok statisztikai valószínűség-becslők, nem hazugságvizsgálók. A Pangram – amit mindhárom fent említett ügyben hivatkoztak – saját technikai jelentésében is leszögezi, hogy egyetlen AI-detektor eredménye sem tekinthető önmagában bizonyítéknak. A gyakorlatban mégis pont ez történt: percek alatt vált egy szám ítéletté. És a szám nem is mindig megbízható – nyilvánosan dokumentált eset, hogy a Pangram egy 2012-es és egy 2017-es, tehát a generatív AI elterjedése előtt megjelent könyvrészletet 98, illetve 99%-ban AI-generáltnak minősített, egy ismert újságírót pedig tévesen vádolt meg AI-használattal, amit a cég utólag maga ismert el téves riasztásnak. Ha egy eszköz réges-régi, garantáltan emberi szövegeket is AI-gyanúsnak jelöl, akkor felelőtlenség kizárólag erre építeni egy szerző karrierjének sorsát.
A történet másik fele.
Miközben szerzőket kérnek számon azért, mert esetleg AI-t használtak, a nagy kiadók egy másik fronton pontosan a fordítottját teszik szóvá: hogy az AI-cégek engedély és kompenzáció nélkül használták fel a könyveiket. Júliusban a Hachette, a Cengage, az Elsevier és Scott Turow író pert indított a Google ellen, azt állítva, hogy a Gemini nevű mesterséges intelligenciát olyan könyveken tanították be, amelyeket a kiadók kizárólag a Google Books kereséséhez, korlátozott célra bocsátottak a cég rendelkezésére – és hogy a vállalat állítólag szándékosan távolította el a szerzői jogi információkat, hogy ez ne derüljön ki. A per szerint egy belső Google-dokumentum is figyelmeztetett rá, hogy ez több tíz-, akár százmilliárd dolláros bírságkockázatot jelenthet. Ez már a második ilyen jellegű per a nagy AI-fejlesztők ellen; az egyik hasonló ügyben tavaly 1,5 milliárd dolláros egyezség született szerzők javára.
Vagyis ugyanaz az iparág egyszerre él át két, látszólag ellentétes válságot: szerzőket vádolnak meg azzal, hogy titokban gépet használtak, miközben a gépeket titokban a szerzők műveivel etetik. A közös pont a kettőben megdöbbentően egyszerű: sehol nincs egy előzetes, ellenőrizhető, mindenki által elfogadott módja annak, hogy bebizonyítsuk, mi emberi munka, és mi nem. Ehelyett mindkét oldalon utólagos gyanakvás, találgatás és – valljuk be – időnként az dönt, kire süt rá jobban a reflektorfény, nem az, hogy mi történt valójában.
Ez az, amit szerintem meg lehetne előzni.
Nem azzal, hogy jobb detektort építünk – ahogy láttuk, ez a verseny sosem ér véget, minden új AI-modellel újrakezdődik. Hanem azzal, ha a bizonyítás terhét megfordítjuk: nem utólag, egy sikeres könyv esetén kell „tisztáznia magát” a szerzőnek egy megbízhatatlan szoftver ellenében, hanem előre, a kézirat beadásakor rögzíthető és ellenőrizhető egy „Emberi alkotás” jelzés – dokumentált, időbélyegzett alkotási folyamat alapján, ahogy azt a petíciónkban is javasoljuk. Ez védené Faladét és Ballardot a gyanútól, mert lett volna mire hivatkozniuk, mielőtt bárki egyáltalán megkérdőjelezte volna őket. Megvédené Wolfe kiadóját attól, hogy utólag kelljen bizonygatnia, amit nem tud bizonyítani. És megvédené az olvasót is, mert végre tudná, mit tart a kezében.
A gépi tanuláshoz felhasznált szerzői tartalmak átláthatóságát ugyanez a logika oldaná meg a másik oldalon: ha egyértelmű, kikényszeríthető szabály van arra, hogy egy mű betanításhoz való felhasználásához engedély és díjazás szükséges, nem kell pereskedésre várni ahhoz, hogy kiderüljön, mit tett egy AI-cég a könyvekkel.
Pont ezért indítottuk el a petíciónkat. Nem azért, mert az AI ellen vagyunk, hanem mert azt szeretnénk, hogy legyen egy tiszta, ellenőrizhető határ ember és gép munkája között, mind a boltok polcain, mind a technológiai háttérben. Ha ez a fajta jövő tényleg elkerülhetetlen – és minden jel szerint az –, akkor jobb, ha ezt mi, a könyvszakma alakítjuk, nem a következő véletlenül kirobbanó botrány.
Írd alá a petíciót, ha egyetértesz azzal, hogy erre a rendszerre szükség van:
— Böbe · Helyesen Magyarul | HM Könyvek
