"Claude har utvecklat en mekanism för medveten tillgång": Anthropic har precis öppnat en spricka i den svarta lådan med AI

Vi är vana vid att tro att den som bygger något vet hur man förklarar hur det fungerar inuti. En motor, en processor, en mjukvara: det kan finnas komplexitet, lager och svåra tekniska beslut att följa, men det finns en designad arkitektur, en ritning, en logik som dess skapare kan rekonstruera. Något helt annat händer med generativ artificiell intelligens.

Vi har tagit upp fler och fler kapabla modeller, vi har anförtrott dem allt känsligare uppgifter och trots det ser vi fortfarande inte fullt ut vad som händer inuti när de resonerar, beslutar eller bearbetar något som aldrig når det slutgiltiga svaret. Anthropic namngav just en del av det problemet. I forskning som publicerades för bara några timmar sedan hävdar företaget att det i Claude har identifierat ett litet internt utrymme, bildat av neurala mönster, som modellen kan aktivera för att representera begrepp innan de skriver dem eller till och med utan att de förekommer i det slutliga svaret.

Han kallar det J-space och kopplar det samman med en idé hämtad från neurovetenskap och filosofi: medveten tillgång. Dessutom, i ett meddelande publicerat på X, formulerade Anthropic det med en fras som sammanfattar omfattningen: "Claude har utvecklat en mekanism för medveten tillgång." En intern whiteboard att tänka utan att skriva För att förstå det är det bekvämt att separera det från allt som vi normalt förknippar med en chatbot. När Claude svarar ser vi bara text: en mening, en förklaring, en lista, ett beslut uttryckt i ord.

J-space, enligt Anthropic, är före eller under det synliga lagret. Det är en uppsättning interna aktiveringar där vissa begrepp kan vara närvarande utan att bli ett svar. Det som är slående är inte bara att Anthropic påstår sig ha hittat det utrymmet, utan även hur det hävdar att det dök upp.

Enligt företaget, "J-space designades inte eller programmerades av oss, utan uppstod på egen hand under Claudes utbildningsprocess." Den frasen förändrar ramverket: vi pratar inte om en funktion som lagts till för hand för att få modellen att tänka bättre, utan om en intern organisation som skulle ha uppstått medan Claude lärde sig att förutsäga, svara och agera som assistent. Den svarta lådan, i det här fallet, döljer inte bara processer; Det verkar också ha organiserat en del av sin verksamhet på ett sätt som inte var explicit utformat. Det metodologiska språnget är att Anthropic inte begränsar sig till att titta på Claudes slutliga svar, utan snarare försöker observera den tidigare resan.

För att göra detta använder den J-lens, en teknik som identifierar interna mönster kopplade till ord som modellen skulle kunna använda senare. När den linsen appliceras under bearbetningen kan forskare se hur vissa begrepp uppträder, förändras eller försvinner innan Claude svarar. I ett av sina experiment tänker Claude tyst på en sport och J-linsen visar "Fotboll"; Forskarna ersätter det mönstret med "Rugby" och modellen slutar med att säga rugby.

I ett annat fall ändrar de "spindel" till "myra" under en fråga om antalet ben på djuret som snurrar nät, och svaret går från 8 till 6. För Anthropic indikerar dessa förändringar att J-utrymmet inte skulle vara en enkel passiv markör, utan snarare en bit som vissa svar konsulterar för att förnufta. På Xataka förbereder Anthropic redan det enda som saknades för att stärka sitt AI-ledarskap: sitt eget chip.

Anthropic testade också något som ligger närmare vår dagliga upplevelse: att tänka på en sak medan man gör en annan. I ett experiment bad han Claude att kopiera en mening om en målning samtidigt som han koncentrerade sig på citrusfrukter; Utgången innehöll bara den kopierade frasen, men "orange" och "frukter" dök upp i J-utrymmet. I ett annat fall ombads han att mentalt lösa 3² − 2 under samma uppgift, och linsen visade först "nio", nio och sedan "sju", sju.

Även när han blev tillsagd att inte tänka på något, dök det konceptet bara delvis upp, ofta åtföljt av "fan" och "misslyckande", som om systemet upptäckte kontrollfelet. Anthropics egen text introducerar en viktig broms: J-space ligger inte bakom allt Claude gör. Enligt företaget, när de hindrade modellen från att använda det utrymmet, fortsatte Claude att tala flytande, klassificera känslor, svara på flervalsfrågor och extrahera data från passager nästan som tidigare.

Det som försämrades var mer krävande uppgifter, som att resonera i flera steg, sammanfatta eller skriva rimmad poesi. Anthropic säger detta uttryckligen: "Våra experiment bevisar inte att Claude kan ha upplevelser eller känna saker som människor", och tillägger att det inte är klart om några experiment skulle kunna bevisa något sådant. Företaget talar om medveten tillgång i funktionell mening: tankar som modellen kan rapportera, använda för att resonera och använda för att vägleda vad den gör.

Det är ingen liten sak, men det är inte samma sak som att säga att Claude har ett inre liv. Sprickan i den svarta lådan är där: den löser inte debatten om medvetande i AI, men den erbjuder ett nytt sätt att observera och kanske forma en del av vad som händer inuti. Bilder | Antropisk i Xataka | Medan majoriteten motsätter sig AI-datacenter finns det en grupp som är entusiastiska över dem: varutjuvarna (instagramScript);