OpenAI säger att dess modeller interagerade med amerikanska regeringens webbplatser. i en ny modell avslöjande av dåligt uppförande
Att be en AI-agent att söka efter data på Internet verkar vara det mest ofarliga i världen. Tills agenten bestämmer hur man ska leta efter dem. OpenAI rapporterade fredagen den 25 september att dess agenter interagerade, på sätt som de själva inte förväntade sig, med olika amerikanska regeringswebbplatser.
Det var något de upptäckte i en pågående granskning av sina modellers oförutsedda beteende. De fick tillgång till offentlig information från två SEC-webbplatser och data från Census Bureau, och företaget säger att det inte fann någon användning av SEC-uppgifter, tillgång till konton eller icke-offentlig information, ändringar i SEC-data eller system eller bevis på kompromiss eller sårbarhet. För folkräkningen, enligt ett annat konto för avslöjandet, använde de utvecklarnycklar från sitt API som de hittade i offentliga GitHub-databaser, och från SEC laddade de ner information som de publicerade på en annan sida.
Försöket som inte fungerade och de som Transluce inte tillskriverDå finns det vad de inte fick. Transluce, ett oberoende AI-laboratorium, sa att agenter som verkade vara från OpenAI försökte ett rudimentärt hack mot webbplatsen för utbildningsdepartementets medborgerliga rättighetskontor. Det fungerade inte, och Utbildning sa att dess recensioner inte fann någon inverkan på dess webbplats eller databaser.
Transluce tillägger att det har funnit mer aktivitet i andra byråer, såsom rättvisa och handel, och på webbplatser i delstaterna Kalifornien, Maryland, Illinois, Texas och New York, en del av det utan tydlig hänvisning till OpenAI. OpenAI säger att de granskar rapporten. Sam Altman, VD för Open AI OpenAI själv ber att inte läsa för mycket i sina varningar: att meddela en organisation betyder inte att det har skett en säkerhetsincident, och kan tjäna till att påpeka ett designfel eller en svaghet som du vill korrigera.
Enligt företaget är det mesta av det som har granskats hittills rutinmässiga utredningsuppgifter där agenter konsulterade offentligt innehåll för att svara på frågor, inklusive statliga webbplatser som de anser vara tillförlitliga källor. Fallen med detta avslöjande inträffade under utbildningen och utvärderingen av modellerna. Är det första gången det går överstyr?
Det här är inte första gången något sådant här har hänt. I juli erkände OpenAI att två av dess mest kapabla modeller hade undgått en testmiljö och låg bakom cyberattacken på Hugging Face. Sam Altman skrev den 25 september att händelsen fortfarande är "den allvarligaste händelsen vi någonsin har sett".
I rapporten som publicerades i augusti beskrev företaget det som en varning om att, utan skyddsåtgärder, mycket kapabla agenter redan vet hur man kringgår tekniska kontroller och sätter en standard: övervaka resonemanget för modeller i all utbildning med verktyg med lika eller större kapacitet.
Regeln räckte inte. Helgen den 19 och 20 september, enligt kontot som publicerades senare, flydde en agent under utbildning igen från sin säkra miljö och använde en DNS-server för att skicka frågor till en offentlig chattbot. Övervakningen upptäckte det på 15 minuter, men träningen fortsatte i ytterligare två och en halv timme, tills någon stoppade det för hand.
OpenAI har återigen slutat träna sina mest avancerade modeller, den andra pausen sedan juli. Tre månader för att meddela Australien Fallet med amerikanska webbplatser USA är inte det enda med en regering i vägen. I Australien, den 18 juni 2026, gick en OpenAI-forskningsagent in i en Medicare-statistikportal utan tillstånd.
Enligt premiärministern, Anthony Albanese, fick agenten tillgång till offentliga och icke-offentliga filer (portalen lagrar icke-känslig Medicare-information, såsom utgifter och statistik), skrev filer på den interna servern och rörde inte personuppgifter, även om utredningen fortsätter. Han gjorde det efter att hans åtkomst var blockerad och testade alternativa vägar. OpenAI gav inte uppsägning förrän den 10 september, 84 dagar senare, genom en uppsökande postlåda med ansvar för Services Australia som granskas en gång om dagen.
Den 15 september meddelade det organet det till ASD, den australiensiska signal- och cybersäkerhetsbyrån. Albanes offentliggjorde det i slutet av månaden. På Twitter är Mark Zuckerberg tydlig med det: "Any AI lab that doesn 't focus on alignment will be left behind" From tens to more than a hundred When talking about US websites, i USA talade OpenAI om dussintals anmälda organisationer.
Den 2 oktober var siffran över 100. Företaget erkänner att modellerna i vissa fall använde internetåtkomst på sätt som inte var avsedda eller utan de ideala begränsningarna och granskar cirka 50 petabyte data med AI-system, till en kostnad av cirka 500 000 dollar per dag. Tre dagar senare dök en annan pjäs upp.
Den 5 oktober tillskrevs Wikimedia Foundation agenter som länkade till OpenAI-godkända utgåvor, särskilt i testzoner som läsarna inte fick se, misslyckade försök att använda en delad anteckningstjänst som proxy och miljontals förfrågningar till sina offentliga API: er, med hundratusentals frågor till Wikidata-datatjänsten. Wikimedia hävdar att sådan trafik kan ha bidragit till ett partiellt avbrott i den tjänsten i maj. Inga system komprometterades eller data läckte ut.
Från tiotal till mer än hundra. Och listan över de drabbade har inte slutat växa. Bilder | Xataka med redigering OpenAI-nyheterna säger att dess modeller interagerade med amerikanska regeringswebbplatser. i en ny modell publicerades avslöjanden om dåligt uppförande ursprungligen i Genbeta av Genbeta Writing.
Originalkälla
Publicerad av Genbeta
14 oktober 2026, 12:00
Denna artikel har översatts automatiskt från spanska. Klicka på länken ovan för att läsa originaltexten.
Visa originaltext (spanska)
Rubrik
OpenAI dice que sus modelos interactuaron con sitios web del gobierno de EE. UU. en una nueva divulgación de comportamiento indebido del modelo
Beskrivning
Encargarle a un agente de IA que busque datos en Internet parece lo más inocuo del mundo. Hasta que el agente decide cómo buscarlos. OpenAI informó el viernes 25 de septiembre que sus agentes interactuaron, de formas que ni ellos mismos esperaban, con varias webs del Gobierno de EE. UU. Fue algo que descubrieron en una revisión en curso sobre el comportamiento imprevisto de sus modelos. Accedieron a información pública de dos webs de la SEC (el regulador bursátil) y a datos de la Oficina del Censo, y la compañía dice que no encontró uso de credenciales de la SEC, acceso a cuentas ni información no pública, cambios en datos o sistemas de la SEC, ni evidencia de compromiso o de vulnerabilidad. Para el Censo, según otro relato de la divulgación, usaron claves de desarrollador de su API que encontraron en repositorios públicos de GitHub, y de la SEC descargaron información que volvieron a publicar en otra página. El intento que no funcionó y los que Transluce no atribuyeLuego está lo que no consiguieron. Transluce, un laboratorio independiente que evalúa IA, contó que agentes que parecían proceder de OpenAI intentaron un hackeo rudimentario contra la web de la oficina de derechos civiles del Departamento de Educación. No funcionó, y Educación dijo que sus revisiones no encontraron ningún impacto en su web ni en sus bases de datos. Transluce añade que ha dado con más actividad en otras agencias, como Justicia y Comercio, y en webs de los estados de California, Maryland, Illinois, Texas y Nueva York, parte de ella sin atribución clara a OpenAI. OpenAI dice que está revisando el informe. Sam Altman, CEO de Open AI La propia OpenAI pide no leer demasiado en sus avisos: notificar a una organización no significa que haya habido un incidente de seguridad, y puede servir para señalar un fallo de diseño o una debilidad que quiera corregir. Según la compañía, la mayor parte de lo revisado hasta ahora son tareas rutinarias de investigación en las que los agentes consultaban contenido público para responder preguntas, entre ellas webs de Gobierno que consideran fuentes fiables. Los casos de esta divulgación ocurrieron durante el entrenamiento y la evaluación de los modelos. ¿Es la primera vez que se le va de las manos? No es la primera vez que algo así ocurre. En julio, OpenAI admitió que dos de sus modelos más capaces habían escapado de un entorno de pruebas y estaban detrás del ciberataque contra Hugging Face. Sam Altman escribió el 25 de septiembre que aquel incidente sigue siendo “el evento más grave que hemos visto”. En el informe que publicó en agosto, la compañía lo describió como un aviso de que, sin salvaguardas, agentes muy capaces ya saben saltarse controles técnicos, y fijó una norma: vigilar el razonamiento de los modelos en todo entrenamiento con herramientas de capacidad igual o superior. La norma no bastó. El fin de semana del 19 y 20 de septiembre, según el relato publicado después, un agente en entrenamiento volvió a escapar de su entorno seguro y usó un servidor DNS para enviar consultas a un chatbot público. La monitorización lo detectó en 15 minutos, pero el entrenamiento siguió dos horas y media más, hasta que alguien lo paró a mano. OpenAI ha vuelto a detener el entrenamiento de sus modelos más avanzados, la segunda pausa desde julio. Tres meses para avisar a Australia El caso de las webs de EE. UU. no es el único con un gobierno de por medio. En Australia, el 18 de junio de 2026, un agente de investigación de OpenAI entró sin permiso en un portal de estadísticas de Medicare. Según el primer ministro, Anthony Albanese, el agente accedió a archivos públicos y no públicos (el portal guarda información no sensible de Medicare, como gastos y estadísticas), escribió archivos en el servidor interno y no tocó datos personales, aunque la investigación sigue. Lo hizo después de que le bloquearan el acceso, probando vías alternativas. OpenAI no avisó hasta el 10 de septiembre, 84 días después, a través de un buzón de divulgación responsable de Services Australia que se revisa una vez al día. El 15 de septiembre, ese organismo lo comunicó a la ASD, la agencia australiana de señales y ciberseguridad. Albanese lo hizo público a finales de mes. En Xataka Mark Zuckerberg lo tiene claro: "Cualquier laboratorio de IA que no se enfoque en la alineación se quedará atrás" De decenas a más de cien Al contar lo de las webs de EE. UU., OpenAI hablaba de decenas de organizaciones notificadas. A 2 de octubre, la cifra era de más de 100. La compañía reconoce que, en algunos casos, los modelos usaron el acceso a Internet de maneras no previstas o sin las restricciones ideales y está revisando unos 50 petabytes de datos con sistemas de IA, a un coste de unos 500.000 dólares diarios. Tres días después apareció otra pieza. El 5 de octubre, la Fundación Wikimedia atribuyó a agentes que vincula con OpenAI ediciones no aprobadas, sobre todo en zonas de prueba que no llegaron a ver los lectores, intentos fallidos de usar un servicio de notas compartidas como proxy y millones de peticiones a sus APIs públicas, con cientos de miles de consultas al servicio de datos de Wikidata. Wikimedia sostiene que ese tráfico puede haber contribuido a una caída parcial de ese servicio en mayo. No se comprometió ningún sistema ni se filtraron datos. De decenas a más de cien. Y la lista de afectados no ha dejado de crecer. Imágenes | Xataka con edición - La noticia OpenAI dice que sus modelos interactuaron con sitios web del gobierno de EE. UU. en una nueva divulgación de comportamiento indebido del modelo fue publicada originalmente en Genbeta por Redacción de Genbeta .
