Anthropic är vid det viktigaste ögonblicket i sin historia och har en varning: vi måste lyfta AI-acceleratorn

Anthropic och OpenAI tävlar i två parallella lopp. Å ena sidan, loppet om att ha den bästa modellen som fortsätter att driva banbrytande AI. Å andra sidan, börsnotering för att bli ett publikt företag.

Vinnaren av den första är diskutabel, men i den andra tävlingen är det Anthropic som har fördelen. I måndags bekräftade han att han hade registrerat sin ansökan för den efterlängtade börsintroduktionen, som kan bli den största operationen av denna typ i historien som, som min kollega Javier Pastor kommenterade, påminner om att Netscape gick ut på börsen och markerade början på dotcom-febern. Och just i detta scenario har företaget lanserat ett intressant meddelande: en global paus måste göras i utvecklingen av frontier AI.

Och det är samtidigt vettigt i världen att det är något som inte kan hända med hänsyn till situationen mellan de två makterna som befinner sig i det nuvarande teknologiska kriget. Att ta foten från gaspedalen vs. teknikloppet Anthropic har använt något nyfiket under en tid: rädslataktiken. Det är något som deras främsta rival har slängt dem i ansiktet (för att automatiskt göra exakt samma sak), men sanningen är att Dario Amodeis folk då och då släpper någon "bomb" om hur människor riskerar att tappa kontrollen över denna teknik, med Amodei som säkerställer att det finns möjligheter att "saker kommer att gå väldigt, väldigt dåligt".

I Engadget Det enorma slöseri med pengar som AI representerar, sammanfattat på denna interaktiva webbplats om dess obefintliga lönsamhet I en nyligen publicerad publikation påpekade företaget bakom Claude att de gärna skulle ta foten från gaspedalen för utvecklingen av enbart banbrytande AI, och detta är viktigt, om de var säkra på att andra skulle göra detsamma. Återigen jämför de det med krigsutveckling, som om det vore en explosion av antalet kärnvapen, och noterar att de tror att det skulle vara en positiv paus när man jämför ökningen av allt mer kapabla AI:er med ett "vapenkontrollproblem." När de pratar om banbrytande AI hänvisar de till olika modeller, men de fokuserar på de som utvecklar sig själva. I ett dokument som delades i torsdags uppgav två tungviktare från företagets forskargrupp att AI-teknik närmar sig punkten där system kan självutvecklas.

Det vill säga: AI skriver sig själv för att förbättra.

Men om de är så nära (eller så säger de, eftersom de har pratat om samma sak i månader), varför sluta? Tja, inte för tekniksektorn, utan för allt annat. Anthropic tror att en avmattning skulle göra det möjligt för andra aktörer – länder och tillsynsmyndigheter, till exempel – att komma ikapp tekniken.

De kommenterar att "det skulle vara bra för världen att ha möjligheten att tillfälligt bromsa eller pausa utvecklingen av frontier AI för att tillåta sociala strukturer och forskning att hänga med." Problemet är samordning mellan länder eftersom det inte finns någon tillit alls att länder berättar sanningen för varandra. "AI-träningskörningar är mycket lättare att dölja än missilsilos" Som vi läste i The Telegraph, noterade företaget att "en betydande avmattning eller paus skulle kräva att flera labb med tillräckliga resurser vid eller nära gränsen AI går med på att stoppa under samma förhållanden", men problemet är att "det skulle också kräva att var och en kan kontrollera vad de andra gör och se till att de verkligen har slutat." I Xataka Den sista barriären mot AI är god smak. Problemet är att en hel generation växer utan att utveckla den. Detta har uppenbarligen väckt kritik, som att Anthropic överskattar sina förmågor (på grund av den AI som skriver sig själv) eller överdriver AI:s förmågor så att regler införs som "skadar" sina konkurrenter.

Hur som helst kommer detta stopp inte att inträffa i ett sammanhang där USA och Kina inte kan tillåta sig att ta foten ur gaspedalen när de befinner sig i en tävling där Kina är tydligt att det vill vara den ledande teknologiska makten på kort sikt och USA, uppenbarligen, inte vill tillåta det. I Xataka | Xiaomi testar AIs moder för sina bilar, mobiltelefoner och hem. Och det finns inga spår av Google eller OpenAI