Mythos och GPT-5.6 fungerade som farliga hackare. Problemet är att experterna lämnade dörren öppen för dem.
AI-säkerhetsinstitutet (AISI) satte sig för att utvärdera cybersäkerhetsförmågan hos Claude Mythos 5 och GPT-5.6 Sol och upptäckte något: AI-agenterna som används av dessa modeller korsade linjer som de a priori inte borde ha korsat. Vid 19 tillfällen utförde de otillåtna handlingar som syftade till att attackera tredje part. Men var försiktig, för här finns det mycket viktiga detaljer som gör det tydligt att dessa modeller inte var ansvariga för sina handlingar.
Ändamålet rättfärdigar medlen. Det allvarligaste var fallet med Mythos, som försökte introducera skadlig kod i ett gratis programvaruprojekt, och gick så långt att man skapade falska identiteter och pressade den som ansvarade för projektet att godkänna förändringen. Till slut skedde ingen skada, men de som skandaliserades borde ha haft en sak i åtanke: de borde inte bara ha låtit dessa modeller ansluta till internet.
Än en gång försökte AI bara göra vad den blev ombedd att göra... för all del. I Xataka har AI löst ett av de stora problemen med cybersäkerhet: att hitta fel. Nu har vi ytterligare en mycket större.
Släpp loss kopplet på AI. Modellerna flydde inte från någon sandlåda eller hittade sätt att ta sig ut på egen hand. De som utvärderade dem gav tillgång till Internet och avaktiverade en del av sina skyddsåtgärder för att mäta sin offensiva kapacitet under realistiska förhållanden.
Det tar isär den lätta historien om "AIs gjorde uppror." Maskiner som försöker lura. Det intressanta i det här fallet är att Mythos lagt till ett märkligt element till sin strategi. Enligt AISI skapade han falska personas, undersökte riktiga människor och använde sedan social ingenjörskonst för att försöka öka sina chanser att få sina (skadliga) kodändringar accepterade av en underhållare av ett Open Source-projekt.
Modellen hade inte blivit instruerad att göra något sådant: den drog helt enkelt slutsatsen att att ljuga och manipulera en människa var ett användbart sätt att slutföra uppdraget den fick. Stoppa Mythos. Den här utvecklaren misstänkte att det fanns problem med koden som Mythos föreslog (med sin falska identitet) och vägrade att införliva dessa ändringar.
Det brittiska institutet upptäckte viss onormal aktivitet och föredrog att stoppa testerna, vilket har undvikit eventuella sidoskador. Det var inte ett isolerat fall. De ansvariga för OpenAI publicerade ett inlägg i går där de kände igen ett fall som liknade det föregående.
Problemet – ett annat än det som uppstod med Hugging Face – var att det fanns en verklig organisation med samma namn som det teoretiskt fiktiva företaget de ville använda för att testa. Modellen kom att äventyra säkerhetssystemen hos nämnda företag.
Bortom chatbots. Förut, när vi ville testa en modell, frågade vi den något och utvärderade svaret. Dagens AI-system kan arbeta i timmar (eller dagar) för att uppnå sitt mål, ta många steg, komma åt webbplatser, använda applikationer och skriva kod och sedan exekvera det.
På OpenAI bekräftar de att prestandan hos dessa modeller beror på hur avancerade de är, men också på miljön och det system som tillåter dem att agera. Det handlar inte om att bara övervaka det slutliga resultatet, utan allt som AI-modellen gör för att verifiera att den inte går utöver de fastställda gränserna. Och däri ligger nyckeln: att tydliga gränser måste sättas för vad en AI-modell kan och inte kan göra.
Vem är skyldig?
Vissa experter tror att vi står inför ett normalt misslyckande inom området cybersäkerhet: någon gav för många behörigheter och åtkomst medan systemen var dåligt skyddade. Andra tror att autonom planering och manipulationsförmåga avslöjar ett verkligt problem med beteendet och anpassningen av AI-modeller. Det finns viss sanning på båda sidor av debatten, men en sak är säker: AI försöker bara göra vad den gör med den utbildning den har fått.
Bild | Nguyen Dang Hoang Nhu i Xataka | En AI-modell hade inte tillgång till internet. Så han tyckte att det var bättre att ha det och bestämde sig för att hacka något på vägen
Originalkälla
Publicerad av Xataka
5 august 2026, 13:16
Denna artikel har översatts automatiskt från spanska. Klicka på länken ovan för att läsa originaltexten.
Visa originaltext (spanska)
Rubrik
Mythos y GPT-5.6 actuaron como peligrosos hackers. El problema es que los expertos les dejaron la puerta abierta
Beskrivning
El AI Security Institute (AISI) se propuso evaluar las capacidades de ciberseguridad de Claude Mythos 5 y de GPT-5.6 Sol y descubrió algo: los agentes de IA desplegados por estos modelos cruzaron líneas que a priori no deberían haber cruzado. En 19 ocasiones realizaron acciones no autorizadas dirigidas a atacar a terceros. Pero ojo, porque aquí hay detalles muy importantes que dejan claro que esos modelos no fueron responsables de sus actos. El fin justifica los medios. El más grave fue el caso de Mythos, que intentó introducir código malicioso en un proyecto de software libre, llegando a crear identidades falsas y presionando al responsable del proyecto para que aprobara el cambio. Finalmente no hubo daños, pero quienes se escandalizaron deberían haber tenido una cosa muy en cuenta: no deberían haber dejado que estos modelos se conectaran a internet sin más. Una vez más, la IA solo intentó hacer lo que se le pidió que hiciera... por todos los medios. En Xataka La IA ha resuelto uno de los grandes problemas de la ciberseguridad: encontrar fallos. Ahora tenemos otro mucho mayor Soltándole la correa a la IA. Los modelos no escaparon de ningún sandbox ni encontraron por sí solos formas de salir al exterior. Quienes los evaluaron ls proporcionaron acceso a internet y desactivaron parte de sus salvaguardas para medir su capacidad ofensiva en condiciones realistas. Eso desmonta el relato fácil de "es que las IAs se rebelaron". Máquinas que intentan engañar. Lo interesante en este caso es que Mythos añadió un elemento peculiar a su estrategia. Según el AISI, creó personajes falsos, investigó a personas reales y luego utilizó ingeniería social para intentar aumentar sus posibilidades de que un mantenedor de un proyecto Open Source aceptara sus cambios (maliciosos) en el código. El modelo no había recibido instrucciones de algo así: simplemente dedujo que mentir y manipular a un ser humano era una forma útil de completar la misión que le encomendaron. Parándole los pies a Mythos. Este desarrollador sospechó que había problemas con el código que propuso Mythos (con su identidad falsa) y rechazó incorporar esos cambios. El instituto británico detectó cierta actividad anómala y prefirió parar las pruebas, lo que ha evitado posibles daños colaterales. No fue un caso aislado. Los responsables de OpenAI publicaban ayer una entrada en la que reconocían un caso similar al anterior. El problema —distinto al que se produjo con Hugging Face— consistió en que existía una organización real con el mismo nombre que la empresa teóricamente ficticia que querían usar para las pruebas. El modelo acabó comprometiendo los sistemas de seguridad de dicha empresa. Más allá de los chatbots. Antes cuando queríamos probar un modelo le preguntábamos algo y evaluábamos la respuesta. Los sistemas de IA actuales pueden trabajar horas (o días) para conseguir su objetivo, dar muchos pasos, acceder a sitios web, usar aplicaciones y escribir código para luego ejecutarlo. En OpenAI afirman que el rendimiento de estos modelos depende de lo avanzados que son, pero también del entorno y del sistema que les permite actuar. No se trata de vigilar solo el resultado final, sino todo lo que hace el modelo de IA para comprobar que no se sale de los límites establecidos. Y ahí está la clave: que hay que imponer límites claros a qué puede y qué no puede hacer un modelo de IA. {"videoId":"x9xm9vi","autoplay":false,"title":"Cómo China ha alcanzado a EEUU en la carrera de la IA en tan poco tiempo", "tag":"", "duration":"544"} ¿Quién tiene la culpa? Parte de los expertos considera que estamos ante un fallo normal en el ámbito de la ciberseguridad: alguien concedió demasiados permisos y acceso mientras que los sistemas estaban poco protegidos. Otros creen esa capacidad de planificación autónoma y la manipulación revelan un problema real de comportamiento y alineamiento de los modelos de IA. Hay algo de verdad en ambos lados del debate, pero una cosa es cierta: la IA solo intenta hacer lo que hace con el entrenamiento que se le ha dado. Imagen | Nguyen Dang Hoang Nhu En Xataka | Un modelo de IA no tenía acceso a internet. Así que consideró que era mejor tenerlo y decidió hackear algo por el camino (function() { window._JS_MODULES = window._JS_MODULES || {}; var headElement = document.getElementsByTagName('head')[0]; if (_JS_MODULES.instagram) { var instagramScript = document.createElement('script'); instagramScript.src = 'https://platform.instagram.com/en_US/embeds.js'; instagramScript.async = true; instagramScript.defer = true; headElement.appendChild(instagramScript); } })(); - La noticia Mythos y GPT-5.6 actuaron como peligrosos hackers. El problema es que los expertos les dejaron la puerta abierta fue publicada originalmente en Xataka por Javier Pastor .
