Den litterära industrin ger redan priser till böcker skrivna med AI. Och detektorerna är värdelösa

AI gör många saker bra, men att skriva är inte en av dem. Och att upptäcka om något är skrivet av henne är ännu mindre så. Från de första generationerna av ChatGPT, till avancerade modeller som Claude, har AI inte kunnat skriva på ett mänskligt sätt.

Tonen, ofullkomligheten, icke-upprepningen av hackade fraser... För författaren är det relativt lätt att identifiera när en text har skrivits med AI. Textdetektorer skrivna av AI verkar inte ha det så tydligt.

Att skriva bra har blivit ett "det här skrevs förmodligen av en AI", till den grad att det finns AI:er som upptäcker några av de stora böckerna i spansk litteratur som skapats av AI. Och eftersom det inte finns något sätt att lösa detta problem finns det de som utnyttjar det.

Röran. En av veckans nyheter visar problemet vi har med att identifiera om en text är skriven av AI eller inte. Tre av de fem regionala vinnarna av Commonwalth Short Story Prize, organiserat av den brittiska litteraturtidskriften Granta, misstänks för att ha skrivit sina skönlitterära verk med AI.

Anklagelserna kommer från verkens läsare själva, samt från de skribenter som har medverkat. Det är en tävling med mycket högt anseende i landet, där olika noveller presenteras och ett pris delas ut till en författare för var och en av de stora regionerna (Afrika, Asien, Kanada, Europa...). Priserna uppgår till upp till $6 700 och det är en av de engelska referenserna i kort litteratur.

Hur vet folk det?

Ett av de vinnande verken, The Serpent in the Grove, började väcka misstankar. Fraser som "inte X, inte Y, utan Z." ("Inte binas prydliga arbete och inte heller det hårda ljudet av en machete mot vinrankan, utan ett hårt ljud, som om jorden svalde ett skrik och höll tillbaka det.") Märkliga ord utan sammanhang ("skogen brummar vid middagstid"). Vissa fragment upptäcktes av AI-verktyg som 100 % skapade av AI.

I Xataka publiceras så många böcker skrivna av AI att Amazon har fattat ett beslut: begränsa självpublicering. Författaren gjorde inga uttalanden i detta avseende och när man bläddrar i sina sociala medier-konton... finner man att de också genereras av AI. Faktum är att saken är så grumlig att en ansträngning till och med måste göras för att bevisa att författaren verkligen existerade, och att han inte var en karaktär skapad av AI. "Vi använder för närvarande inte AI-system i vår bedömningsprocess eftersom detta är en utmärkelse för opublicerad fiktion.

Att tillhandahålla ett opublicerat originalverk till ett AI-system skulle väcka allvarliga frågor om samtycke och immateriella rättigheter. Vi använder inte heller AI för att bedöma berättelser i något skede av processen. Genom att skicka in sina berättelser till priset, godkänner författarna att våra inskickade artikelregler och guider för deras inskickade arbete är original. förklarade personligen att ingen AI användes och efter ytterligare samråd har stiftelsen bekräftat detta." Kan inte upptäckas.

När det gäller Granta ville de inte använda AI-system för att känna igen om texterna skapades på konstgjord väg eller inte. Men om det hade gjorts skulle det inte vara till någon nytta. Välkända tjänster som ZeroGPT eller Grammarly har betydande begränsningar när det gäller att upptäcka tekniska texter.

Faktum är att det redan finns de som har upptäckt erkända verk eller fragment av Bibeln som innehåll genererat av AI. Samma sak händer tvärtom: det finns texter som är 100 % genererade av AI som detektorerna kan tolka som 100 % mänskliga, även om det är något mer komplicerat. LLMs (språkmodeller som ChatGPT eller Claude) skriver faktiskt inte, de gör bara förutsägelser.

Dess grundläggande mekanism är att beräkna, ord för ord, vilket är det mest troliga nästa givet det tidigare sammanhanget. Detta ger sammanhängande, välstrukturerade, grammatiskt oklanderliga texter... och platt, väldigt platt och robotiskt. AI väljer nästan alltid det mest förutsägbara alternativet, eftersom det är vad det är optimerat för, och det har inga betänkligheter mot att upprepa mönster i resultaten den erbjuder till varje person som använder den.

Dåligt skrivande som lösning? Det är lätt att hitta exempel som illustrerar sätt att kringgå dessa system. När det gäller yours truly förbereder jag en systematisk översikt om ett ganska akademiskt, ganska tekniskt ämne.

Universitetet använder AI-detektorer, så jag brukar köra texten igenom den för att kontrollera procenten. Min förvåning ligger just i hur AI-detektorer straffar korrekt skrivning. 100 % mänskliga texter upptäckts med 80 % sannolikhet att ha genererats av AI. Lösning?

Skriv dem men med något mer osammanhängande fraser och utan absolut noggrannhet. Hur det än må vara så är reflektionen tydlig: om inte ens AI vet hur man urskiljer en text skriven med AI... hur kan människor bekräfta det på en juridisk nivå? I Xataka | Vi har ett problem med AI.

De som var mest entusiastiska till en början börjar tröttna på det