Yann LeCun, gudfader till AI: "Om du blockerar en AI för att du tror att den är farlig är du i medeltida obskurantism"

Frasen "den här AI-modellen är så farlig att det skulle vara ett misstag att göra den offentlig" är något äldre än de första offentliga versionerna av ChatGPT. Denna berättelse om "farlig" AI är mer marknadsföring än verklighet, men det är fortfarande den diskurs som företag som Anthropic och OpenAI driver varje gång de lanserar en ny modell. För det är fortfarande ett verktyg (det är att dricka upp världens resurser, men ett verktyg) och Yann LeCun har ett budskap till dessa företag.

Om de verkligen tror att det är farligt lever de i medeltida obskurantism. Berättelse om rädsla = nonsens Den 10 april släppte Anthropic Claude Mythos Preview. Företaget hävdade att det var den bästa AI-modellen som någonsin skapats och det var något som bara de kunde säga eftersom få, väldigt få hade tillgång till denna modell.

Analyser och tester från företag som Mozilla visade att ja, det var verkligen fantastiskt i miljöer som cybersäkerhet. Inte revolutionerande, men ett mycket kapabelt verktyg. I Engadget Claude Fable 5 är historiens mest kraftfulla offentliga AI-modell.

Också den dyraste, exklusiva och frustrerande. Och naturligtvis, om det hamnade i fel händer, skulle det verktyget kunna användas för att utnyttja system och hitta sårbarheter (något som de företag som hade tillgång utnyttjade). Det var "för kraftfullt", enligt Anthropic, en berättelse om rädsla som USA:s regering själv var ansvarig för att främja genom att förbjuda icke-amerikanska medborgare, inklusive antropiska arbetare, från att använda affärsmodellen: Fabel 5.

Enligt gudfadern till AI är allt detta nonsens. Yann LeCun är ett av de mest kända namnen inom artificiell intelligens. Det var 2013 när fd Facebook satte denna akademiker för djupinlärning och maskininlärning vid rodret för företagets AI-fartyg.

På 1980-talet utvecklade LeCun en algoritm för att träna artificiella neurala nätverk, och sedan dess har han byggt en karriär inom både utbildnings- och privatsektorn. På Vivatech deltog LeCun i en diskussion med Steven Levy, Wired-journalist, och de diskuterade olika frågor relaterade till AI:s nutid och framtid. På scenen gjorde LeCun det klart vad hans ståndpunkt är om de nuvarande språkmodellerna (LLM) och vad han tycker om denna berättelse om rädsla.

Tidigare, vid G7-mötena, låg fokus på världens ledare. Nu är huvudpersonerna Amodei, Altman och Hassabis Levy och Yann pratade om den kinesiska modellen mer fokuserad på öppen källkod när "gurun" kommenterade att "många människor, särskilt de som står nära USA:s regering, tror att AI inte kan vara öppen källkod eftersom det scenariot redan är upptaget av kinesiska företag. De är bra och billiga modeller, några fria att använda, och i mitten av dem har vi." LeCun har inte haft några problem tidigare när det gäller att hänvisa till rivaler inom detta område och, i det här fallet, hävdade att "Anthropic, och några andra, är en lobby som i huvudsak vill att AI inte ska vara öppen källkod eftersom de tror att det är en i sig farlig teknik." Sedan började Yann att räkna upp förändringar som verkligen har haft en tyngd i mänsklighetens historia, såsom framstegen som gav vika för nya tider.

Men... AI? I Xataka låtsas inte teknikföretagen längre ens söka allmän artificiell intelligens.

Och AI:s "gudfader" har fått nog "Så, vad är AI idag? Åtminstone är det ett sätt att sprida kunskap. För tillfället är det inte ett sätt att generera ny kunskap och det enda sättet de har att fungera är genom förråd av mänsklig kunskap och de tillåter människor att ha enkel tillgång till dessa förvar.

Så, det är i grunden det, ett sätt till för att göra människor smartare." "Anthropic, och några andra, är en lobby som i huvudsak vill att AI inte ska vara öppen källkod eftersom de tror att det är en i sig farlig teknik." För LeCun är dessa LLM:er en vitaminiserad Wikipedia, men om han inte har varit blyg tidigare och pratat om rivaler och spelare inom AI-området, gjorde han det inte heller på Parismässan. "Om du ska blockera ett verktyg med tanke på att det är mycket farligt, är du i medeltida obskurantism", sa akademikern. Levy tillade att i grunden "att upptäcka ett verktyg och sedan ta det ur våra händer är ett beteende som är mer typiskt för den katolska kyrkan som kallar Galileo en "kättare" för sina teorier." För för LeCun handlar allt om ett annat ord än "fara": "kontroll". "Så här kontrollerar de budskapet och vad folk kan och inte kan göra med sina verktyg. Om du köper en penna vill du inte att företaget som säljer den till dig ska berätta vad du kan skriva med den.

Det finns en gräns för vad företag kan berätta om hur de använder deras verktyg." I Xataka USA stängde Claude Mythos inte av av rädsla för ett jailbreak, han gjorde det för att han misstänkte att någon tittade. Att någon är Kina. I slutändan tar LeCun här inte hänsyn till att dessa företag med proprietära modeller (vem som helst med en proprietär tjänst, verkligen) kan diktera vad du gör med verktygen du licensierar och när de kan stänga av kranen.

Vi ser det även med tv-spel att företag tar bort din SSD när de anser att du inte ska ha den längre, men det är ett annat ämne. "Om du köper en penna vill du inte att företaget som säljer den till dig ska berätta vad du kan skriva med den" Yann avslutade sitt argument med att påpeka att kunskapsdelning är kultur, att det är bra och att även om det finns en negativ motsvarighet (delningskultur kan också leda till radikalisering), vad vi inte bör göra är att kontrollera vad människor kan göra med AI-verktyg. "Det finns ett stort arrogans- och överlägsenhetskomplex i tanken att endast ett fåtal kan kontrollera AI och gnugga det på massorna som inte har tillgång." Om LLM inte är svaret, vad är det då? I sitt tal gjorde LeCun det klart att för honom är LLM:er inte gralen (som flera av VD:arna för AI-företag som gick igenom Vivatech-panelerna sålde). Dessa språkmodeller är en Wikipedia om steroider och ett vitaminiserat prediktivt "tangentbord".

Det finns två saker som Yann erkänner att LLM:er gör mycket bra: matematik och kod, men revolutionen kommer med riktiga agenter och fysisk AI. För LeCun är det två saker vi inte uppnår med LLM. "Den första är att om man vill bygga ett agentsystem som de alla pratar om, så kan man inte göra det tillförlitligt utan att det har förmågan att förutse resultatet och konsekvenserna av sina handlingar. De flesta av oss har förmågan.

Kanske har vissa politiker inte det." AI kommer att generera oöverträffad rikedom. Frågan som alla börjar ställa sig är vem som ska behålla den. "Men vi är verkligen kapabla att förutse resultatet från våra handlingar för att planera en sekvens av handlingar för att utföra en rad uppgifter. Det är vad en världsmodell är." LeCun kommenterar att vi måste arbeta på modeller som förutsäger världens framtida tillstånd med formeln t + 1 där "1" kan vara 10 millisekunder, en sekund, en minut eller tio år. "Det är en modell av världen." Däri ligger komplikationen, eftersom företag vill uppnå detta genom språkmodeller som, som han redan har kommenterat, inte är något annat än prediktiva tangentbord som har blivit mer avancerade och "aldrig kan förutsäga exakt vilket ord som kommer att följa en sekvens av ord." Och om de inte kan göra det kan de inte förutsäga verkliga data.

Ta videoskapande som ett exempel. Han hävdar att han kan spela in en panoramavy av scenen och publiken, men om han stannar vid en viss punkt och ber en AI att rekonstruera det som är kvar kommer det att misslyckas. Han kallar det "ett matematiskt svårlöst problem eftersom vi inte vet hur man representerar fördelningar över ett oändligt antal rimliga utfall" och säger att tanken är att AI ska hitta en abstrakt representation av observationer och göra förutsägelser i det abstrakta representationsutrymmet, men "inte försöka rekonstruera alla detaljer som faktiskt inte är förutsägbara." I Xataka The great fortunes of artificiell intelligens: vem är vem i de nya miljonärerna av AI Precisely, LeCun har arbetat med detta sedan han lämnade Meta.

Han erkände att han har tillbringat 15 år med att arbeta med idén om självövervakat lärande genom videoprediktion, men att det misslyckades under det första decenniet. Sedan föll det honom in att sluta följa de generativa modellerna som försöker förutsäga på pixelnivå för att gå vidare till det abstrakta arbetet och det är där han ser framsteg. Problemet är att inget är klart just nu om detta faktum och vad mer är, i en panel som följde kritiserade vd:ar för AI-företag Yanns ståndpunkt och påpekade att det handlade mindre om att säga vad som inte är rätt och mer om att tillhandahålla lösningar.

Men tja, bortom det "sting" som det kan finnas, och mer på personlig basis, var det ett nöje att lyssna på Yann LeCun och Steven Levy prata och kasta pilar om detta område som har så mycket kvar framför sig. Bilder | Xataka I Xataka | Geopolitikens framtid spelas i AI-modeller: Claude Fable 5:s veto indikerar att Europa är offside Nyheter Alcolea.