Claude kommer att lämna en osynlig prägel på allt han skriver. Problemet är att det inte ens bevisar att Claude skrev det.

Anthropic har indikerat att modellerna som lanserats i Europeiska Unionen sedan den 2 augusti kommer att införliva en osynlig markering i texterna de genererar från dag ett, och företaget kommer att tillämpa systemet globalt i bland annat Claude, dess API, Claude Code eller Claude CoWork. Det kommer inte att vara en synlig tagg eller metadata som försvinner när du klistrar in texten någon annanstans. Detta kommer att tillåta systemet att överleva textredigeringar, men var försiktig: allt är inte positivt.

Varumärket är ingen absolut garanti. Anthropic vill underlätta något vi har väntat på länge: att identifiera texter genererade med AI. Detta kommer att hjälpa till att till exempel upptäcka dem på tredjepartsplattformar och tjänster, och är faktiskt ett krav för den transparens som krävs av den europeiska AI-lagen.

Däremot lägger företaget själv till en varning: det faktum att varumärket finns i en text bevisar inte att Claude skrev den texten, bara att den har bearbetats av de AI-modellerna. Den skillnaden verkar inte vara en stor sak, men det är mycket viktigare än det verkar. I Xataka Daniel Púa, säkerhetschef på Magnific: "ingen person vid första anblicken kan vara 100% säker på om det är AI eller inte AI" En mänsklig text kan också hamna markerad.

Låt oss föreställa oss att någon skriver en artikel ensam och sedan skickar den vidare till Claude för att stavningskontrollera, översätta eller sammanfatta. Om du sedan använder den resulterande versionen kommer den texten att ha ett märke som indikerar att texten verkligen har bearbetats av Claude. Anthropic inser tydligt detta: idéer, data och till och med originaltext kan komma helt och hållet från någon annan.

Det är återigen avgörande, eftersom en text med det märket indikerar att den har bearbetats av Claude, inte att den nödvändigtvis skrevs av Claude.

Processen fungerar också tvärtom. Att en text inte bär Claudes prägel bevisar inte heller att den är mänsklig. Anthropic inser att detta märke kan försvinna om texten har redigerats hårt, parafraserats, översatts, blandats med andra texter eller är för kort.

Dessutom har företaget ännu inte publicerat den tekniska mekanismen som gör att detta märke kan upptäckas, så vi vet inte hur långt denna upptäckt kan gå. Vissa utvecklare pekar på det uppenbara problemet: om målet är att dölja märket kan en annan modell skriva om texten tills märket förstörs. Den antropiska vattenstämpeln är en ledtråd, inte definitivt bevis på någonting.

Konditionera utgången? På Anthropic försäkrar de att denna vattenstämpel inte ändrar betydelsen, kvaliteten eller läsbarheten av svaren, men de har inte gett detaljer om hur det är inbäddat i texten. I vissa vattenmärkningssystem är det man gör att gynna vissa tokens framför andra, vilket bestämmer den optimala effekten.

Tvivlet är särskilt slående när det gäller kod, där utvecklare kan tvingas följa ett krav som inte har med att lösa användarens problem att göra. Vi såg redan den här filmen för 30 år sedan. Eller åtminstone Steven Sinofsky, tidigare ansvarig för utvecklingen av Windows 8, såg det.

Han kommenterade i Att information kunde kombineras med andra poster för att i teorin länka ett dokument till datorn som skapade det. Det slutade med att Microsoft tog bort dem efter kritik för intrång i integriteten och publicerade till och med ett verktyg för att ta bort dem från befintliga dokument.

Anthropic identifierar inte användare. Det finns inga bevis för att Claudes nuvarande vattenstämpel inkluderar namn, konto, uppmaning, plats eller datum, och dokumentationen som erbjuds av företaget gör inte anspråk på något liknande. Parallellen som Sinofsky pekar på är en annan: när det väl finns ett osynligt och ihållande spår i ett innehåll spelar det stor roll vem som kontrollerar det och i vilken utsträckning det kan utökas.

I fallet med Microsoft slutade en identifierare som skapades för att lösa trasiga länkar som gjorde att dokument kunde länkas till specifik hårdvara. Inte bara det: år senare hjälpte han till och med att spåra upp skaparen av Melissa-viruset. Den största experten på AI-förfalskningar har tappat hoppet: "Om ett eller två år kommer hela vårt visuella system att vara värdelöst" En bra och ofullkomlig idé.

Fler och fler texter är en blandning av vad människor skriver och vad maskiner skriver. Forskaren Ian Miers, som har arbetat med den här tekniken sedan 2024, kommenterade i Denna teknik kan vara användbar för att identifiera massgenererad AI Slop som publicerats utan att vara redigerad, men den svarar inte på den andra avgörande frågan: hur mycket av en text som har skrivits av en maskin och hur mycket av personen som publicerade den. I Xataka | Vad hände med Technicolor: evolution and death of the company som bytte film och blev överväldigad av sin ambition