"Ingen vet säkert vad som kommer att hända": Demis Hassabis, nobelpristagare, varnar för risken att tappa kontrollen över AI
Låt oss fundera ett ögonblick på hur teknikmarknaden rörde sig före november 2022. Artificiell intelligens fanns redan i sökmotorer, kameror, rekommendationer och digitala tjänster, men det var ännu inte etiketten som varumärken försökte sätta på varje produkt eller argumentet som en stor del av deras presentationer kretsade kring. Branschen hade andra synliga prioriteringar och fördelade sin uppmärksamhet på flera fronter.
Mindre än fyra år senare är det svårt att hitta en stor tillverkare eller plattform som inte har omorganiserat en del av sin strategi kring AI. Du behöver bara titta på vart pengarna flödar för att förstå omfattningen av detta lopp. Stor teknologi allokerar enorma investeringar till chips, servrar och datacenter som sprids över olika delar av världen, samtidigt som man försöker säkerställa den energi som krävs för att hålla dem igång.
Regeringar tittar inte bara på heller: USA och Kina stödjer utvecklingen av infrastruktur och datorkapacitet som en del av ekonomisk och strategisk konkurrens. Mitt i denna acceleration har en av dess huvudpersoner varnat för att vi avancerar snabbare än vi förstår. Varningen från de som står i frontlinjen av loppet.
Budskapet kommer inte utanför sektorn. Demis Hassabis är medgrundare och VD för Google DeepMind, ett av laboratorierna som främjar utvecklingen av de mest avancerade artificiella intelligenssystemen. Under hans ledning uppstod projekt som AlphaGo, som besegrade en världsmästare i Go, och AlphaFold, som kan förutsäga proteinstrukturer.
År 2024 tilldelades Hassabis och John Jumper tillsammans hälften av Nobelpriset i kemi för sitt arbete med förutsägelse av proteinstruktur. Hans ord har tyngd just på grund av detta dubbla villkor: han hjälper till att bygga denna teknik och samtidigt efterlyser han mekanismer för att begränsa dess risker. En del av texten publicerad av Demis Hassabis i X | Klicka för att se hela meddelandet Hassabis utgår från en övertygelse som hjälper till att förstå hur brådskande hans förslag är: han tror att artificiell allmän intelligens (AGI), definierad i hans text som ett system som kan uppvisa alla kognitiva förmågor hos den mänskliga hjärnan, skulle kunna komma inom bara några år.
Han presenterar det inte som en säkerhet, utan som en nära möjlighet som skulle tvinga oss att förbereda oss innan tekniken når den punkten. Deras oro omfattar cybersäkerhet, möjliga biologiska och nukleära risker och, senare, alltmer autonoma system, som kan agera med mindre övervakning och förbättra sin egen kapacitet. I en omfattande artikel publicerad i X försöker chefen stödja två idéer samtidigt.
Artificiell intelligens kan bli ett extraordinärt verktyg för vetenskap, medicin och ekonomi, men den potentialen eliminerar inte behovet av att etablera kontroller och tillsynsmekanismer. Han föreslår inte heller att man väntar på att ett specifikt hot dyker upp för att reagera, för då kan åtgärderna komma för sent. Innan han beskriver vilken kropp och vilka utvärderingar han anser vara nödvändiga, ställer han diagnosen som ligger till grund för hela hans förslag: "Vi är för närvarande fångade i ett extremt intensivt kommersiellt och geopolitiskt lopp som utvecklas på flera nivåer.
Även om denna konkurrensdynamik driver snabba framsteg och accelererar deras extraordinära fördelar, överträffar framstegen på gränsen för AI vår förståelse av världens gränser för vad som händer i världen, och inte ens i världen vet, och inte ens i världen. experter är överens. När det finns en så hög grad av osäkerhet och det står så mycket på spel är det en förnuftig och korrekt strategi att gå framåt med försiktig optimism. Svaret han föreslår är att skapa en organisation i USA som är specialiserad på att utvärdera de mest avancerade artificiella intelligensmodellerna.
Deras förslag tar som referens ett offentlig-privat partnerskap eller en självreglerande enhet med federal tillsyn, ledd av en styrelse som också skulle inkludera oberoende specialister och representanter för ekosystemet med öppen källkod. Denna institution skulle definiera vilka trösklar som gör ett system till en gränsmodell och utforma bedömningar av cybersäkerhet, biologiska hot och andra högriskområden, samt tester för att upptäcka försök att kringgå skyddsåtgärder eller tecken på bedrägeri. I ett första skede skulle laboratorier frivilligt dela med sig av sina modeller upp till 30 dagar innan de lanserades.
Inledande samarbete kan senare bli ett obligatoriskt krav. När protokollet väl har validerats måste alla modeller som anses vara gränsöverskridande klara utvärderingen innan de når den amerikanska marknaden. Tester skulle regelbundet granskas för att ersätta föråldrade och mäta nya möjligheter, medan oberoende revisorer skulle hjälpa till att utöka kontrollsystemet.
Tillvägagångssättet går ännu längre: om allvaret i riskerna motiverade det, skulle ramverket kunna användas för att samordna en avmattning i utvecklingen mellan stora laboratorier. I Xataka har AI blivit det perfekta alibi för vad som helst: det tjänar företag både att skära ner och att expandera. Oron är inte exklusiv för Hassabis.
Geoffrey Hinton har erkänt att vi inte vet om vi kommer att kunna behålla kontrollen över system som är mer intelligenta än oss, medan Yoshua Bengio efterlyser mer forskning och specifika mekanismer för att övervaka dem. 2023 undertecknade Elon Musk också ett öppet brev där han bad att pausa träningen av AI-system som är kraftfullare än GPT-4 i minst sex månader, även om han några månader senare tillkännagav xAI och började konkurrera direkt på denna marknad. Många av dessa röster håller med om att man uppmanar till försiktighet, men det finns ingen konsensus om sannolikheten att vi kommer att tappa kontrollen. Den artificiella intelligensens historia har fortfarande inget skriftligt resultat, även om dess första effekter redan har förändrat vårt förhållande till teknik och besluten av dem som utvecklar den.
Det återstår att se om det organ som Hassabis föreslagit skulle ha en plats, om dess utvärderingar verkligen skulle vara effektiva och om laboratorier och regeringar skulle gå med på att underkasta sig dem när de strider mot deras egna intressen. Det kan också hända att en del av riskerna det innebär är överdimensionerade eller inte förverkligas. För tillfället lägger hans förslag till en konkret färdplan till en diskussion där det fortfarande finns mer okända än säkerheter.
Bilder | Google i Xataka | Claude har ett utrymme där han manipulerar begrepp innan sitt slutliga svar. Och det har överraskat Anthropic själv
Originalkälla
Publicerad av Xataka
16 july 2026, 23:48
Denna artikel har översatts automatiskt från spanska. Klicka på länken ovan för att läsa originaltexten.
Visa originaltext (spanska)
Rubrik
“Nadie sabe con certeza qué va a ocurrir”: Demis Hassabis, premio Nobel, advierte del riesgo de perder el control de la IA
Beskrivning
Pensemos por un momento en cómo se movía el mercado tecnológico antes de noviembre de 2022. La inteligencia artificial ya estaba presente en buscadores, cámaras, recomendaciones y servicios digitales, pero todavía no era la etiqueta que las marcas trataban de colocar en cada producto ni el argumento alrededor del que giraban buena parte de sus presentaciones. La industria tenía otras prioridades visibles y repartía su atención entre múltiples frentes. Menos de cuatro años después, cuesta encontrar un gran fabricante o una plataforma que no haya reorganizado parte de su estrategia alrededor de la IA. Basta con observar hacia dónde está fluyendo el dinero para entender la magnitud de esta carrera. Las grandes tecnológicas destinan inversiones enormes a chips, servidores y centros de datos que se extienden por distintas partes del mundo, al tiempo que buscan asegurar la energía necesaria para mantenerlos en funcionamiento. Los gobiernos tampoco se limitan a observar: Estados Unidos y China apoyan el desarrollo de infraestructura y capacidad de computación como parte de una competencia económica y estratégica. En medio de esa aceleración, uno de sus principales protagonistas ha advertido que avanzamos más rápido de lo que comprendemos. La advertencia de quien está en primera línea de la carreraEl mensaje no llega desde fuera del sector. Demis Hassabis es cofundador y consejero delegado de Google DeepMind, uno de los laboratorios que impulsan el desarrollo de los sistemas de inteligencia artificial más avanzados. Bajo su dirección surgieron proyectos como AlphaGo, que derrotó a un campeón mundial de Go, y AlphaFold, capaz de predecir estructuras de proteínas. En 2024, Hassabis y John Jumper recibieron conjuntamente la mitad del Premio Nobel de Química por sus trabajos sobre predicción de estructuras proteicas. Sus palabras tienen peso precisamente por esa doble condición: ayuda a construir esta tecnología y, al mismo tiempo, pide mecanismos para contener sus riesgos. Parte del texto publicado por Demis Hassabis en X | Pulsa para ver el mensaje completo Hassabis parte de una convicción que ayuda a entender la urgencia de su propuesta: cree que la inteligencia artificial general (AGI, por sus siglas en inglés), definida en su texto como un sistema capaz de exhibir todas las capacidades cognitivas del cerebro humano, podría llegar en apenas unos años. No lo presenta como una certeza, sino como una posibilidad cercana que obligaría a prepararnos antes de que la tecnología alcance ese punto. Su preocupación abarca la ciberseguridad, posibles riesgos biológicos y nucleares y, más adelante, sistemas cada vez más autónomos, capaces de actuar con menor supervisión y de mejorar sus propias capacidades. En un extenso artículo publicado en X, el directivo intenta sostener dos ideas al mismo tiempo. La inteligencia artificial puede convertirse en una herramienta extraordinaria para la ciencia, la medicina y la economía, pero ese potencial no elimina la necesidad de establecer controles y mecanismos de supervisión. Tampoco propone esperar a que aparezca una amenaza concreta para reaccionar, porque entonces las medidas podrían llegar demasiado tarde. Antes de detallar qué organismo y qué evaluaciones considera necesarios, expone el diagnóstico que sirve de base a toda su propuesta: "En estos momentos estamos atrapados en una carrera comercial y geopolítica extremadamente intensa que se desarrolla en varios niveles. Aunque estas dinámicas competitivas impulsan rápidos avances y aceleran sus extraordinarios beneficios, los progresos en la frontera de la IA están superando nuestra comprensión de la tecnología. Nadie en el mundo sabe con certeza qué va a ocurrir a partir de ahora, y ni siquiera los expertos están de acuerdo. Cuando existe un grado tan elevado de incertidumbre y hay tanto en juego, avanzar con un optimismo prudente es la estrategia sensata y correcta".La respuesta que plantea pasa por crear en Estados Unidos un organismo especializado en evaluar los modelos de inteligencia artificial más avanzados. Su propuesta toma como referencia una asociación público-privada o una entidad autorregulada con supervisión federal, dirigida por una junta en la que también participarían especialistas independientes y representantes del ecosistema de código abierto. Esta institución definiría qué umbrales convierten a un sistema en un modelo de frontera y diseñaría evaluaciones sobre ciberseguridad, amenazas biológicas y otros ámbitos de alto riesgo, además de pruebas para detectar intentos de eludir salvaguardas o señales de engaño. En una primera etapa, los laboratorios compartirían voluntariamente sus modelos hasta 30 días antes de lanzarlos. La cooperación inicial podría transformarse después en un requisito obligatorio. Una vez validado el protocolo, cualquier modelo considerado de frontera tendría que aprobar la evaluación antes de llegar al mercado de Estados Unidos. Las pruebas se revisarían periódicamente para sustituir aquellas que quedaran desfasadas y para medir nuevas capacidades, mientras auditores independientes ayudarían a ampliar el sistema de control. El planteamiento llega incluso más lejos: si la gravedad de los riesgos lo justificara, el marco podría utilizarse para coordinar una ralentización del desarrollo entre los principales laboratorios. En Xataka La IA se ha convertido en la coartada perfecta para cualquier cosa: a las empresas les sirve tanto para recortar como para expandirse La inquietud no es exclusiva de Hassabis. Geoffrey Hinton ha reconocido que no sabemos si podremos conservar el control de sistemas más inteligentes que nosotros, mientras Yoshua Bengio reclama más investigación y mecanismos específicos para supervisarlos. En 2023, Elon Musk firmó además una carta abierta que pedía pausar durante al menos seis meses el entrenamiento de sistemas de IA más potentes que GPT-4, aunque unos meses después anunció xAI y pasó a competir directamente en este mercado. Muchas de estas voces coinciden en pedir cautela, pero no existe consenso sobre la probabilidad de que lleguemos a perder el control. La historia de la inteligencia artificial todavía no tiene un desenlace escrito, aunque sus primeros efectos ya hayan cambiado nuestra relación con la tecnología y las decisiones de quienes la desarrollan. Queda por ver si el organismo que propone Hassabis tendría cabida, si sus evaluaciones serían realmente eficaces y si los laboratorios y los gobiernos aceptarían someterse a ellas cuando entraran en conflicto con sus propios intereses. También puede ocurrir que algunos de los riesgos que plantea estén sobredimensionados o no lleguen a materializarse. Por ahora, su propuesta añade una hoja de ruta concreta a una discusión en la que todavía abundan más las incógnitas que las certezas. Imágenes | Google En Xataka | Claude tiene un espacio en el que manipula conceptos antes de su respuesta final. Y ha sorprendido a la propia Anthropic (function() { window._JS_MODULES = window._JS_MODULES || {}; var headElement = document.getElementsByTagName('head')[0]; if (_JS_MODULES.instagram) { var instagramScript = document.createElement('script'); instagramScript.src = 'https://platform.instagram.com/en_US/embeds.js'; instagramScript.async = true; instagramScript.defer = true; headElement.appendChild(instagramScript); } })(); - La noticia “Nadie sabe con certeza qué va a ocurrir”: Demis Hassabis, premio Nobel, advierte del riesgo de perder el control de la IA fue publicada originalmente en Xataka por Javier Marquez .
