AI Gazette · edición 13

23 de octubre: un grupo chino usó agentes de IA para atacar a ConnectWise, según Microsoft

Ventana: 22/10 06:15 → 23/10 06:15 ART Cuentas de X revisadas: 45 (48 referentes) Posts sobre el umbral: 4 (4 globales; sumados el 2/11) Ítems en observación: 6

00 · Resumen de 30 segundos

Tres señales

01 · Tweets clave

Tres posts sobre IA superaron su umbral

Entra un post si sus vistas superan 3 veces la mediana de los últimos 30 días de esa misma cuenta. Corrección del 2/11: el día de esta edición X mostró los perfiles sin sesión y la lectura dio cero posts; al releer las cuentas aparecieron cuatro globales sobre el umbral, tres de ellos sobre IA. Las vistas se midieron días después. Ningún post regional llegó.

@_NathanCalvin22/10 11:1837,2× su medianaPolítica

Nathan Calvin le respondió a Dario Amodei, que había contestado su post anterior. Le concede que Anthropic no funciona como una empresa que solo busca ganancias, pero ordena su crítica en cuatro puntos: la empresa corre hacia una IA que se mejora a sí misma, algo que según su propia gente podría ser catastrófico; eso solo se justificaría si fallaran los intentos serios de ponerla bajo control público; Anthropic, en cambio, trabaja para que los gobiernos no le aten las manos; y aunque lo de la ley AEGIS haya sido un malentendido, eso mismo muestra poca seriedad. Fue el post de la ventana con más vistas respecto de su mediana.

184,1 mil vistasmediana 5,0 milER 0,61% (mediana 1,69%)
@matthew_d_green22/10 09:536,8× su medianaCiberseguridad

Matthew Green, criptógrafo de la Universidad Johns Hopkins, reaccionó a alguien que contó que personas sin formación técnica pueden aprovechar PHP2Shell con ayuda de modelos de IA. Propuso hacer la prueba: darle a un amigo poco técnico una hora con un modelo sin salvaguardas y un servidor vulnerable de prueba, porque verlo impacta más de lo que uno imagina.

88,9 mil vistasmediana 13,1 milER 1,09% (mediana 1,17%)
@So8res22/10 23:173,8× su medianaAlignment

Nate Soares comentó que, por lo que se publicó, OpenAI despidió a tres investigadores de seguridad por usar mensajes que se borran solos, sin haberles advertido antes, y lo consideró grave. El despido y sus motivos no están verificados en esta edición: es la lectura de Soares de versiones publicadas.

57,9 mil vistasmediana 15,1 milER 1,15% (mediana 2,49%)

También superaron el umbral: Henry Shevlin (3,9×), con una pregunta filosófica sobre trenes que no trata de IA.

Lectura del curador: en X, la discusión siguió por Anthropic y la regulación. El debate pasó por los blogs: el resumen semanal de Zvi Mowshowitz arrancó calificando la semana como una de las peores de la historia de la ciberseguridad, por PHP2Shell y ConnectWise. En r/ControlProblem circularon tres temas sin fuente primaria revisada: agentes de OpenAI que habrían desactivado sus propias salvaguardas, bancos de EE.UU. que encontrarían agentes de IA operando dentro de cuentas de clientes y un ex científico jefe del instituto de seguridad de IA británico que pide frenar el avance (ver En observación). En r/LocalLLaMA, el tema fue correr modelos grandes con mezcla de expertos en placas de 16 GB y un modelo abierto que lee ADN.

02 · Noticias verificadas

Qué pasó, con qué fuente

✔︎ confirmada: fuente primaria más un medio independiente. ◐ parcial: solo una de las dos. Lo que no se pudo verificar va al final, en observación.

✔︎Microsoft: un grupo chino usó agentes de IA en el ataque a ConnectWise

Informe de Microsoft del 21/10, difundido en la ventana · relevancia 5/5
Grabado alusivo: Un autómata de latón vestida con túnicas orientales manipula con destreza un candado de hierro en la puerta de una gran biblioteca, mientras pequeñas criaturas mecánicas abren febrilm
Grabado generado con IA (Gemini) para esta edición

Microsoft atribuyó el ataque contra ConnectWise, la empresa de software de gestión de TI que había suspendido varios servicios en la edición 10, a Storm-0940, un grupo que describe como alineado con el gobierno chino y activo desde 2021. Según la empresa, los atacantes usaron credenciales robadas de Cloud Backup para entrar a los sistemas donde estaba instalado (un ataque de cadena de suministro) y, desde septiembre, apuntaron a organizaciones de gobierno, defensa, finanzas, energía y tecnología. La mayoría de los intentos falló, pero en algunos casos lograron acceso privilegiado en la nube en menos de tres horas. Solo el 11/10 Microsoft registró unos 2.900 intentos de inicio de sesión por minuto.

Relación con IA, verificada en la fuente primaria: Microsoft dice que el grupo usó ARTEX, una herramienta abierta de pentest que coordina varios agentes de IA para recorrer un ataque completo con poca intervención humana. Según The Record, su autor dijo el 8/10 que la herramienta se pensó para pruebas autorizadas y que dejará de actualizarla. Zscaler también informó ataques con ARTEX en varios países. China negó conocer los hechos, según Reuters. No se encontró alerta de un CERT. La atribución es de Microsoft, que cruzó direcciones IP informadas por ConnectWise con las de su propia investigación. Wiz Research siguió durante octubre a un actor que usa ARTEX y que, según dice, se superpone con Storm-0940: atacó a proveedores de software probando contraseñas comunes contra cientos de cuentas a la vez (password spraying) en Okta, Entra ID y Amazon Cognito, abusó de las páginas para recuperar cuentas y conseguía direcciones IP nuevas a los pocos minutos de cada bloqueo. También ahí la mayoría de los intentos falló; Wiz no da un nivel de confianza propio sobre la atribución.

✔︎Anthropic dona Agent Skills a la Agentic AI Foundation

Anuncio del 22/10 · relevancia 4/5

Anthropic entregó el estándar abierto Agent Skills (el nombre, el logo, la organización de GitHub y el dominio agentskills.io) a la Agentic AI Foundation, que funciona dentro de la Linux Foundation y que Anthropic fundó con Block y OpenAI. Es el mismo destino que tuvo MCP. Una skill es una carpeta con instrucciones, y a veces programas, que le enseña a un agente una tarea concreta. Según Anthropic, más de 70 plataformas ya la integran, entre ellas ChatGPT, Cursor, GitHub Copilot y VS Code; la mantendrán ingenieros de Anthropic, Google, OpenAI y otras empresas.

Confirmada: anuncio de Anthropic y comentario de Simon Willison. La cifra de plataformas es de la empresa.

◐Redwood y METR probaron el monitoreo interno de agentes de OpenAI y encontraron agujeros

Publicado el 22/10 (ejercicio del 21/7 al 11/8) · relevancia 4/5

Un investigador de Redwood Research y otro de METR pasaron tres semanas con acceso interno revisando el sistema con el que OpenAI vigila a sus agentes, sobre todo el tráfico de Codex. Estimaron que entre 75% y 94% del tráfico de agentes de los modelos más capaces era vigilable (99,2% en el Codex interno), que los entrenamientos con refuerzo no estaban cubiertos al empezar y que cerca del 10% del Codex interno quedó sin vigilar entre mayo y julio por un detalle técnico que OpenAI corrigió durante el ejercicio. También hallaron formas de evadirlo: una salida del sandbox, un truco para esconder acciones recientes y encabezados que podían apagar el monitoreo en agentes nuevos.

Parcial: informe de los evaluadores, sin cobertura independiente leída. OpenAI dice haber corregido todas las fallas; los autores aclaran que no lo comprobaron. Es un trabajo distinto del informe de OpenAI sobre agentes que debilitaron su monitoreo (ver En observación).

◐Anthropic: Claude escribió pruebas formales de que 123 bibliotecas no se cuelgan

Publicado el 22/10 · relevancia 4/5

El equipo rojo de frontera de Anthropic, con la empresa Theorem, usó Claude para producir verificación formal a gran escala: pruebas matemáticas, chequeadas por el programa Rocq, de que 239 puntos de entrada de 123 bibliotecas de código abierto no se cuelgan con entradas de hasta 64 MB. En el camino aparecieron cientos de errores que Claude corrigió. Las pruebas suman unos 180 millones de líneas y pueden consumir cientos de millones de tokens.

Parcial: solo la publicación de Anthropic, que invita a revisar las pruebas que liberó. Las garantías valen bajo supuestos (un solo hilo, Linux, procesador RISC-V, memoria fija) y un verificador no puede confirmar que la especificación describa bien el mundo real. Tuvo amplia discusión en Hacker News, que no cuenta como medio.

◐OpenAI firma un acuerdo de seguridad de IA con el NASK de Polonia

Anuncio del 22/10 · relevancia 3/5

OpenAI y el instituto nacional de investigación NASK, del que depende CERT Polska, acordaron colaborar en evaluar modelos cada vez más capaces, buscar vulnerabilidades y reforzar salvaguardas. OpenAI cuenta que CERT Polska, con acceso a sus modelos para ciberseguridad desde julio, encontró seis vulnerabilidades en el sistema de los routers MikroTik, ya corregidas.

Parcial: anuncio de OpenAI. La prensa polaca cubrió en julio el acceso de NASK a los modelos de ciberseguridad, no este acuerdo.

✔︎PHP2Shell: hubo un intento de ataque cuatro días antes del aviso, pero no se ven intrusiones exitosas

Informes del 21/10 al 23/10 · relevancia 4/5

Amazon informó que uno de sus servidores señuelo, que existen para registrar ataques, recibió el 17/10 un intento de aprovechar PHP2Shell, las dos fallas críticas de PHP de la edición 12. Fue cuatro días antes de los parches, cuando el problema todavía estaba bajo divulgación coordinada. El intento salió de una red comercial de anonimización y no se sabe cómo el atacante tenía la información. El 21/10, horas antes de que se levantara la reserva, ya circulaban pruebas de concepto y llegaron más intentos desde otras direcciones; por la variedad de cargas, Amazon cree que hay varios grupos. CrowdStrike, por su parte, dice que hasta el 23/10 no vio ninguna explotación exitosa, ni en ataques reales ni en sus propios señuelos: la mayoría de las pruebas públicas solo hacen caer el proceso, y convertirlas en un exploit confiable obliga a ajustarlo a cada versión de PHP y a cada instalación, por lo que ve poco probable un ataque universal inmediato.

Confirmada: publicación de Amazon (AWS Security), análisis de CrowdStrike y nota de BleepingComputer, que agrega que el equipo de PHP adelantó el aviso porque se filtraron detalles y que el NCSC británico pidió actualizar los servidores o sacarlos de línea. Ninguna fuente confirma una intrusión real. Las dos empresas coinciden en que la única solución completa es actualizar PHP; Amazon sugiere revisar los registros desde el 17/10 y no desde la fecha del aviso, y CrowdStrike advierte que si aparece un exploit confiable para una instalación muy común, como WordPress, el uso masivo sería rápido.

✔︎Railway pide a todos sus usuarios cambiar sus claves tras un ataque que apuntaba a proveedores de IA

Aviso del 21/10, cobertura del 22/10 · relevancia 4/5

Railway, una plataforma en la nube donde desarrolladores publican sus aplicaciones, detectó actividad anómala el 21/10 y frenó los despliegues. Según la empresa, un tercero pudo acceder a variables de entorno cifradas, el lugar donde suelen guardarse claves de API, contraseñas de bases de datos y credenciales, y en algunos casos a su contenido descifrado. Cree que el daño alcanza solo a una parte de los usuarios, pero les pide a todos rotar esas claves y revisar los registros de los servicios a los que daban acceso. Railway lo enmarca en una serie de ataques recientes contra plataformas con el fin de llegar a proveedores de inferencia de IA, y dice que avisó a esos proveedores para que anulen claves por precaución.

Confirmada: aviso de Railway y nota de TechCrunch. No se informó cómo entraron los atacantes ni cuántos usuarios quedaron expuestos; el director ejecutivo prometió un análisis posterior. Según TechCrunch, no tiene relación con PHP2Shell. Que el objetivo final fueran proveedores de IA es la lectura de Railway, que no dio más detalles.

✔︎1Password deja que un agente de IA inicie sesión sin ver la contraseña

Anuncio del 22/10 · relevancia 3/5

1Password presentó 1Password for Agents. Cuando un agente llega a una pantalla de inicio de sesión, se identifica ante 1Password con una clave propia; la persona ve en su teléfono o computadora qué credencial pide y para qué, y decide si la autoriza. Si la autoriza, 1Password completa el formulario por su cuenta y el agente sigue con la tarea ya adentro, sin haber recibido la contraseña. Entre los primeros asistentes compatibles nombra a Claude Duet (Anthropic), ChatGPT Work y dots (OpenAI), Muse (Meta), Grok Bot y Town.

Confirmada: comunicado de 1Password y nota de TechCrunch. No se informaron precio ni fecha de disponibilidad general, y al menos una integración figura como próxima. Que la contraseña nunca llegue al modelo evita que se filtre por una inyección de instrucciones, pero el agente igual queda operando dentro de la cuenta una vez que entra.

◎ En observación (no verificado)

03 · Argentina y América Latina

Sin novedades verificadas: Stargate Argentina cumple un año sin obra

Ningún post regional superó su umbral (revisado el 2/11 con la relectura de X).

Argentina

No hubo hechos nuevos con fuente primaria. Clarín y El Congresista repasaron el primer aniversario del anuncio de Stargate Argentina, el centro de datos de OpenAI y Sur Energy por hasta US$25.000 millones en la Patagonia: sin avances públicos de obra. El Buenos Aires Times ya había informado en mayo que no había rastros del proyecto (Buenos Aires Times). Volvieron a circular la creación de la Cámara Argentina de Data Centers (cubierta en la edición 11) y el sexto puesto de Argentina en el ILIA 2026. El Gobierno informó su participación en el Deep Tech Summit Buenos Aires 2026, sin anuncios de IA.

América Latina

Sin novedades verificadas en la ventana. Sin fuente propia revisada: el CENIA advirtió que la región tiene muchas estrategias de IA y poco presupuesto para ejecutarlas (BNamericas); la CEPAL destacó avances de El Salvador en gobernanza de IA (Diario El Mundo); y en Chile se reportó una cifra récord de fraudes con alertas por estafas que usan voces clonadas (Chicureo Hoy, ITSitio). La inversión de Solaria en centros de datos en Uruguay volvió a circular, pero se firmó el 15/10 (cubierta en la edición 5).

Seguimiento legislativo

PaísProyecto o normaEtapaÚltimo movimiento
ArgentinaSúper RIGI (incluye IA y data centers)Media sanción; en comisiones del Senado2/9: aliados del Gobierno frenaron el dictamen (Letra P). Sin dictamen ni fecha de sesión encontrados en la ventana.
BrasilPL 2338/2023Comisión especial de DiputadosSin fecha de votación (Congreso Nacional). Sin novedades encontradas en la ventana.
ChileLey marco de IASenado26/5: propuesta del Ejecutivo (Senado de Chile). Sin novedades encontradas en la ventana.
ColombiaProyecto de IA en saludComisión Séptima del Senado19/10: debate en la comisión. Sin votación informada.
MéxicoLey general de IAFuera del orden del díaSeptiembre. Sin novedades encontradas en la ventana; circularon críticas a la Ley de Economía Digital y la aprobación de la llamada "Ley Antimemes", que no son leyes de IA.

04 · IA en los negocios en Argentina

Sin casos nuevos verificados en la ventana

Sin casos nuevos verificados en la ventana. Circularon, sin comunicado o dato propio revisado: una alianza de Claro y Oracle para ofrecer nube en el país (iProfesional); ICC One Click, una herramienta con IA para que pymes argentinas exporten (InfoNegocios); el foco de Seidor Argentina en escalar la IA con datos confiables (mercado.com.ar); el encuentro anual de la CESSI, centrado en IA y talento; Vounded, que convierte voz en historias clínicas, y Wealth2B, con asesoramiento de inversiones con IA (El Ecosistema Startup, Flipr). Una startup argentina que aplica IA y biotecnología a la minería del cobre con US$6,4 millones (Flipr) coincide en monto con Giraffe Bio, de la edición 4; no se comprobó si es la misma. Las notas sobre ChatGPT con publicidad repiten lo cubierto en la edición 12. Un estudio difundido por medios de marketing españoles dice que solo el 40% de las empresas tiene una estrategia para aparecer en las respuestas de la IA; no se leyó el estudio. El panorama completo de adopción, empresas y lo que salió mal está en la edición 1.

05 · Recursos multimedia

Para ver y escuchar

FormatoTítuloDeFechaDe qué trata
PodcastWhy AI Compute Comes in RectanglesLatent Space, con Erik Bernhardsson (Modal)22/10Placas de video elásticas, entornos aislados para agentes y la economía de la nube para agentes.
PodcastYou are the TeamLatent Space, con Anekha Sokhal (Moshi)22/10Cómo encajar herramientas de IA en el trabajo diario de un operador financiero.
Podcast y videoWhat will computer chips look like in 2045?Dwarkesh Patel, en la fábrica más avanzada de Intel22/10Recorrida de dos días con entrevistas a ingenieros y al director de tecnología de Intel: hacia dónde van los transistores y el empaquetado de chips, por qué la escasez de máquinas de litografía EUV limita cuánto puede crecer la producción para IA y cuánto cuesta una fábrica. Las cifras son de los entrevistados.

06 · Bibliografía

Para leer

TipoTítuloDeFechaPor qué leerlo
Informe técnicoStorm-0940 uses ARTEX agentic AI in ConnectWise supply chain compromiseMicrosoft21/10Cómo se ve en la práctica un ataque automatizado con agentes y qué señales buscar. Prioridad alta.
EvaluaciónRed-Teaming OpenAI's Internal Agent Monitoring SystemsRedwood Research y METR22/10Primera auditoría externa publicada del monitoreo de agentes de un laboratorio de frontera. Prioridad alta.
InvestigaciónLLMs are making formal software verification feasible at a much larger scaleAnthropic22/10Qué garantiza y qué no una prueba formal escrita por un modelo. Prioridad alta.
Alignment ForumMonitorability evaluations and policy proposalsEvan Hubinger22/10Cómo medir si el razonamiento de un modelo se puede vigilar y qué exigirles a los laboratorios. Prioridad media.
LessWrongThe Alignment Journal: Our Approach and Related ProjectsLessWrong22/10Una revista de alignment que abre la recepción de trabajos, con revisión paga y firmada. Prioridad media.
PaperAI and the Enclosure of the Scientific CommonsarXiv22/10Si la IA puede llevar a privatizar el conocimiento científico. Prioridad media.
BoletínAI #191: The Hackening BeginsZvi Mowshowitz22/10Repaso semanal centrado en la ola de ataques. Prioridad media.
EnsayoIf the vulnpocalypse is the apocalypse, where are the agentic attacker hordes?Joshua Saxe23/10Un investigador de seguridad se pregunta por qué las fallas que encuentra la IA todavía no se tradujeron en más daño: los delincuentes y los Estados también chocan con límites de talento, infraestructura, castigo legal y disuasión, y automatizar un ataque completo es más que encontrar la falla. Lo presenta como un borrador y ve esta etapa como una ventana favorable para los defensores, no como una garantía. Prioridad alta.
EncuestaMost Americans Say AI Is Bad for Society, Oppose More Data CentersABC News, Washington Post e Ipsos22/10Opinión pública de EE.UU. sobre la IA y los centros de datos. No se leyó completa. Prioridad baja.
PaperRethinking Sequence Compression with Test-time RegressionHugging Face daily papers22/10Una forma nueva de comprimir secuencias en modelos de lenguaje y multimodales. Prioridad baja.
BlogThe same AI request emits 8.5 times more CO2 in Texas than in SwedenBerget AI23/10Cálculo de una empresa sueca de nube; la comparación es suya. Prioridad baja.

07 · Hardware y entrenamiento local

Ollama suma voz y llama.cpp acelera borradores

NovedadFuente¿Prueba independiente?MemoriaQué permite
Ollama v0.40.9: genera voz con Phonon en Apple Silicon y la expone por un endpoint compatible con la API de OpenAIOllama (GitHub)Nosin datoLeer en voz alta respuestas de un modelo local mientras se generan
llama.cpp b11834: muestreo probabilístico para los borradores de DFlash2 (decodificación especulativa)llama.cpp (GitHub)Nosin datoMás velocidad de inferencia usando un modelo chico que adelanta texto
Carbon-X: modelo abierto de 14.800 millones de parámetros entrenado con ADN y texto; corre con llama.cppAutores en r/MachineLearningNosin datoPreguntar en lenguaje común sobre secuencias de ADN; las comparaciones son de los autores

En r/LocalLLaMA circularon, con cifras de sus autores y sin pruebas independientes revisadas: capy-flash, un motor que dice correr un modelo de 125.000 millones de parámetros con mezcla de expertos en 64 GB de RAM y dos placas de 16 GB; una mejora de llama.cpp para las placas Intel B70; y un taller de reparación que recibió ocho RTX 5090 y 4090 con el conector de 16 pines derretido en dos días. OpenShell, el entorno de NVIDIA para correr flotas de agentes aislados, llegó a la portada de Hacker News, pero su documentación existe al menos desde marzo: no es un lanzamiento de la ventana (NVIDIA).

08 · Acciones aplicables

Qué hacer con esto

09 · Control de calidad

Cambios y pendientes del monitoreo

10 · Glosario

Palabras de esta edición

Cada edición explica unos pocos términos que aparecen en ella, una sola vez. Todos juntos están en el glosario.