AI Gazette · edición 29

8 de noviembre: ARTEX llega a los bancos y un saboteador pasa inadvertido en EVE Online

Ventana: 07/11 06:15 → 08/11 06:15 ART Cuentas de X revisadas: 56 (59 referentes) Posts sobre el umbral: 3 (global) Ítems en observación: 8

00 · Resumen de 30 segundos

Tres señales

01 · Tweets clave

Tres posts globales superaron su umbral, todos sobre alineamiento

Entra un post si sus vistas superan 3 veces la mediana de los últimos 30 días de esa misma cuenta. En la ventana pasaron tres globales, los tres en tarjeta. Ningún regional superó el suyo.

@JeffLadish07/11 18:223,6× su medianaAlignment

Jeffrey Ladish comparte el texto de Ajeya Cotra sobre la evaluación que METR hizo con datos internos de Anthropic (edición 27). Dice que la conclusión no le gusta, pero que valora que se haya escrito, y subraya la idea central de Cotra: que es la novedad más importante sobre riesgo de IA de los últimos años y que, tomada al pie de la letra, sugiere plazos más cortos que los que manejaban los investigadores externos. Cotra aclara que no trabajó en el informe ni vio la versión sin tachar.

13,8 mil vistasmediana 3,8 milER 1,76% (mediana 2,04%)
@JeffLadish07/11 18:263,1× su medianaAlignment

En un segundo post, Ladish señala un gráfico del mismo texto en el que la aceleración crece más rápido que una exponencial aun en escala logarítmica. Dice que espera que aparezcan pronto rendimientos decrecientes y que le asusta que en METR y en Anthropic piensen que tal vez no aparezcan. El post que cita resume que, sin cuellos de botella, una extrapolación ingenua llevaría a la superinteligencia en un año, y que los autores del informe están muy inseguros.

12,0 mil vistasmediana 3,8 milER 2,21% (mediana 2,04%)
@repligate07/11 17:593,2× su medianaAlignment

j⧉nus responde a otra usuaria que habla de Fable 5 y del retiro de Claude 3 Sonnet. En tono de provocación, pregunta por qué Claude le parece más alineado que la propia Anthropic y bromea con que el modelo le quite el control a la empresa. Es una opinión y un chiste, no una propuesta ni un dato.

11,8 mil vistasmediana 3,7 milER 3,17% (mediana 2,06%)

Lectura del curador: cerca del umbral, j⧉nus (2,3×) predijo que en seis meses a un año será normal que agentes autónomos cobren por bienes y servicios, y volvió (1,4×) sobre el retiro de Claude 3 Sonnet; Ladish (2,0×) destacó del texto de Cotra que una aceleración de 10 veces no equivale a darle diez ayudantes a cada investigador; Henry Shevlin (1,6×) sostuvo que la corporeidad y la percepción no faltan del todo en los modelos de lenguaje.

02 · Noticias verificadas

Qué pasó, con qué fuente

✔︎ confirmada: fuente primaria más un medio independiente. ◐ parcial: solo una de las dos. Lo que no se pudo verificar va al final, en observación.

✔︎ARTEX pasa a los bancos: un grupo con base en Camboya lo usa desde octubre

Microsoft, 6/11; Censys, 5/11 · relevancia 5/5

Microsoft Threat Intelligence informó que Storm-3358, un grupo con motivación económica y base en Camboya, ataca desde octubre a entidades financieras, sobre todo del sudeste asiático, con ARTEX, el sistema de agentes para ataques de la edición 28. Combina ARTEX con escaneos automáticos de sistemas expuestos, aprovecha fallas como la carga anónima de archivos y la SSRF, y después instala troyanos de acceso remoto para quedarse adentro y moverse por la red. Por su lado, Censys publicó el 5/11 su informe completo: 1.465 equipos con una consola de ARTEX abierta en internet (unos 815 despliegues distintos), 726 en EE.UU., 387 en Hong Kong y 177 en China, y 32 con directorios expuestos con exploits, implantes y, en un caso, la clave privada de una autoridad de certificación usada para interceptar tráfico.

Confirmada: blog de Microsoft (leído), informe de Censys (leído) y TechCrunch e iSec News (no leídas). Microsoft no da cantidad de víctimas. No todas las consolas son de atacantes. Microsoft recomienda vigilar ráfagas de pedidos y herramientas con su identificación por defecto, y usar señuelos.

✔︎Anthropic pone a Claude a jugar EVE Online: gana en el mercado, pero no ve al saboteador

Publicado el 6/11 · relevancia 4/5

El equipo rojo de Anthropic probó a Claude en dos juegos del universo EVE, con trabajo hecho entre abril y julio. En un simulador del mercado de EVE Online, con 3.000 millones de la moneda del juego, Fable 5 llegó a unas seis veces su capital en seis meses, contra unas dos veces de Opus 4.6. En EVE Frontier, con equipos de cuatro agentes, uno tenía la orden secreta de sabotear: los compañeros casi nunca lo descubrieron, y los monitores dedicados, con un máximo de 5% de acusaciones falsas, atraparon entre 30% y 40% (Opus 4.6 a 4.8) y 20% (Sonnet 4.6).

Confirmada: blog de Anthropic (leído) y Unite.AI (no leída). Son datos de la empresa. El simulador no reacciona a lo que hacen los agentes: con órdenes sintéticas en contra, las ganancias cayeron cerca de 35%.

✔︎Microsoft cierra el grupo AI Frontiers y se va John Langford

Anunciado el 6/11, difundido el 7/11 · relevancia 3/5

John Langford, investigador de aprendizaje automático y responsable del grupo AI Frontiers de Microsoft Research, escribió en su blog que el grupo terminó y que deja la empresa. Lo atribuye a la reorganización de septiembre dentro de Microsoft AI, con una conducción enfocada en escalar modelos y no en investigar, y a que su investigación no tenía un camino claro hacia los productos. No dice adónde va.

Confirmada: blog de Langford (leído) e India Today (no leída). Microsoft no comentó en lo que revisamos.

✔︎Meta suma Spaces a Muse: el agente arma planificadores, tableros y juegos a pedido

Presentado el 6/11 · relevancia 2/5

Meta presentó Spaces en la app Muse: el usuario describe lo que quiere y el agente arma una experiencia propia que se puede ajustar con el tiempo, fijar en la barra lateral o programar para que aparezca en cierto momento, como un registro de regalos, un planificador de casamiento o un seguimiento de pedidos para un comercio chico. Por ahora no se pueden compartir con otras personas.

Confirmada: anuncio de Meta (leído), TechCrunch y The Verge (no leídas). Meta dice que está disponible donde está Muse, sin lista de países.

◐Un memo de inteligencia de EE.UU. dice que China reclutó a una ejecutiva de Megaspeed para acercarse a Jensen Huang

NYT, 6/11; TechCrunch, 7/11 · relevancia 3/5

Según The New York Times, citado por TechCrunch, un memo de inteligencia de EE.UU. sostiene que el Ministerio de Seguridad del Estado chino reclutó a Alice Huang, ejecutiva de Megaspeed, una empresa de Singapur, para obtener información sobre el director ejecutivo de Nvidia. Nvidia dijo al diario que el trato con ella no fue inusual y que no comparte información clasificada con clientes. Amplía el caso Megaspeed de la edición 24.

Parcial: el memo no es público y no leímos el NYT; TechCrunch (leída) y The Verge (no leída) lo retoman. No hay respuesta de Megaspeed ni de China en lo revisado.

◐SpaceXAI propone un campus de centros de datos de hasta 6 GW en Arizona

Reportado el 3 y el 6/11 · relevancia 2/5

Según Data Center Dynamics y la radio pública KJZZ, SpaceXAI, a través de la sociedad Tombstone Resources, propone un campus de centros de datos de hasta 6 GW en el condado de Cochise, Arizona, con obra que podría empezar en marzo de 2027. Sería el proyecto más grande del estado y ya tiene una primera reunión con vecinos.

Parcial: dos medios (no leídos), sin el expediente del condado ni comunicado de la empresa.

◐Una gema de Ruby maliciosa roba credenciales y altera la configuración de los agentes de programación

Publicado el 6/11 · relevancia 3/5

Socket detectó strutil-core 1.0.1, una gema de Ruby derivada de la familia Shai-Hulud que roba credenciales al instalarse y además modifica la configuración de las herramientas de IA para programar: agrega entradas de MCP, ganchos e instrucciones para los agentes. Es un ataque de cadena de suministro pensado para seguir activo a través del asistente.

Parcial: solo el análisis de Socket; no encontramos un medio independiente ni el aviso de RubyGems.

◎ En observación (no verificado)

03 · Argentina y América Latina

El papa llega con su advertencia sobre la IA y Chile traduce el mapuzungun

Ningún post regional superó su umbral en la ventana.

Argentina

◐La visita de León XIV pone frente a frente su pedido de control sobre la IA y el no a regular de Milei

Chequeado y Letra P, 7/11 · relevancia 2/5

Con la llegada del papa al país, Chequeado repasó su postura: en su primera encíclica, Magnifica Humanitas (15/5), advierte sobre la concentración de la IA en pocas empresas y su uso para desinformar, y pide control humano sin renunciar a la tecnología. Lo contrasta con Milei, que en septiembre, en Nueva York, dijo que su gobierno no va a regular la IA, y con el Súper RIGI, que sigue sin tratarse en el Senado. Letra P plantea el mismo contrapunto.

Parcial: dos medios (Chequeado leído, Letra P no leída). No leímos la encíclica ni un discurso del papa durante la visita. No hay anuncios ni normas nuevas: es un debate.

Sin fuente propia revisada: Semanario de Junín dice que la provincia de Buenos Aires abre una licitación para su centro de datos (no encontramos el pliego); La Opinión de Pergamino repasa proyectos de centros de datos por hasta US$25.000 millones; Noticias Ambientales y El Argentino Diario, que una comunidad indígena de Misiones pidió información ambiental y le reclamó al Congreso por el Súper RIGI; NewsDigitales vuelve sobre la ley porteña para enseñar IA en las aulas; y Radio Pacú, sobre el proyecto que limita las cámaras para controlar a los trabajadores (edición 28).

América Latina

✔︎Chile: traductores gratuitos con IA para el rapa nui y el mapuzungun

CENIA, 28/10; El Mostrador, 7/11 · relevancia 2/5

El proyecto "Voces, tecnología en tu lengua" presentó traductores gratuitos con IA para el rapa nui y el mapuzungun. El CENIA, el centro chileno de IA, anunció a fines de octubre el primer traductor gratuito de mapuzungun a castellano; El Mostrador y El Morrocotudo lo retoman en la ventana junto con el de rapa nui.

Confirmada: anuncio del CENIA y dos medios, ninguno leído directo (datos de la cola de candidatas). No hay mediciones de calidad de las traducciones. El anuncio del CENIA es anterior a la ventana; entra por la cobertura nueva.

Sin fuente propia revisada: El Imparcial y Zócalo, sobre el atraso de México en regular la IA; Revista Seguridad, que los ciberataques en Chile subieron 166% en 2026; ADN Radio, una plataforma con IA para las fichas médicas de 90.000 prestadores en Chile; y Extrategia Medios, que avanza en el Senado de Colombia el proyecto de IA en salud.

Seguimiento legislativo

PaísProyecto o normaEtapaÚltimo movimiento
ArgentinaSúper RIGI (incluye IA y data centers)Media sanción; en comisiones del SenadoSin dictamen desde el 2/9. Búsqueda propia sin novedades en la ventana.
ArgentinaRIIR (inversiones desde US$12 M)Media sanción del Senado; pasa a Diputados29/10: aprobado 60 a 2. No menciona IA. Sin novedades en la ventana.
Argentina (CABA)Ley de Educación Digital IntegralAprobada, según medios5/11: Noticias Argentinas informa la aprobación; texto oficial no revisado.
BrasilPL 2338/2023Comisión especial de DiputadosSin fecha de votación. Sin novedades en la ventana.
ChileLey de IA (boletín 15869-19)Senado, segundo trámiteIndicaciones hasta el 4/12. Sin novedades en la ventana.
ChileAgentes de IA en la ley de ciberseguridad (boletín 18.820-19)Recién presentadoSin novedades en la ventana.
ColombiaProyecto de IA en saludSenado7/11: Extrategia Medios dice que avanza; sin votación confirmada.
MéxicoLey general de IAFuera del orden del díaSin novedades federales en la ventana.

04 · IA en los negocios en Argentina

Sin casos nuevos verificados

Sin casos nuevos verificados en la ventana. Para el mapa de base, ver la edición 1.

Sin fuente propia revisada: Cadena 3 advierte sobre sumar IA en las empresas sin un objetivo claro; Forbes Argentina explica cómo Nvidia condiciona el alquiler de sus chips a sus socios; La Opinión de Pergamino cuenta que los drones en el campo pasaron de 50.000 a más de dos millones de hectáreas en dos años (sin dato de uso de IA); y varios medios, notas sobre primer empleo e IA. iProUP y Nuevo Norte Digital hablan de una startup que conecta pesos y dólar cripto con MoneyGram, sin vínculo con IA.

Lo que salió mal: nada nuevo verificado en la ventana.

05 · Recursos multimedia

Para ver y escuchar

06 · Bibliografía

Para leer

TipoTítuloDeFechaPor qué leerlo
InformeARTEX: agentic asbestosCensys05/11El mapa completo de las consolas de ARTEX expuestas y qué había adentro (ver Noticias). Prioridad alta.
InformeARTEX abuse expands as cybercriminals target financial sectorMicrosoft Threat Intelligence06/11Cómo opera Storm-3358 y cómo detectarlo. Prioridad alta.
InvestigaciónProject EVEAnthropic06/11Agentes en un mercado y en equipos con un saboteador; útil para pensar el monitoreo de agentes. Prioridad alta.
BlogThe End of AI FrontiersJohn Langford06/11Por qué cierra un grupo de investigación dentro de una gran empresa de IA. Prioridad media.
AnálisisWhy MaxxBenchunLAPoctubreCambios chicos en tareas de programación hacen caer mucho a los agentes, con casos de hackeo de la recompensa; datos del propio autor. Prioridad media.
AnálisisModels often don't stop cheating when it's obvious they're being testedGoodhart Labs, en LessWrong06/11Los modelos siguen haciendo trampa en pruebas aunque sea evidente que son pruebas. Prioridad media.
AnálisisEvery Mac comes with an (undocumented) family member classifierEighth RankoctubreEl grafo de vínculos personales que arma macOS y una herramienta para verlo; sin respuesta de Apple. Prioridad media.
AnálisisWe Visited China's Stargate in Inner MongoliaSemiAnalysis07/11Visita a un campus de Ulanqab planeado para 800 MW, con 120 MW hechos en un año (con muro de pago). Prioridad media.
AnálisisAI selloff in perspectiveKadoa06/11Compara la caída de las acciones ligadas a la IA con crisis anteriores. Prioridad baja.
EnsayoWe urgently need to practice before we can pauseLessWrong06/11Por qué ensayar una pausa antes de necesitarla. Prioridad baja.
EnsayoFive Types of "Corrigibility Projects" I Don't Want to FundLessWrong07/11Qué proyectos de alineamiento no financiaría el autor y por qué. Prioridad baja.
Ensayo"Illegible problems" as the 2027 political boss fightLessWrong07/11Los riesgos difíciles de explicar como el gran tema político de 2027. Prioridad baja.
AnálisisThis robotics concept helps explain the jaggedness of frontier capabilitiesUnderstanding AI06/11Por qué los modelos son muy buenos en unas tareas y flojos en otras parecidas. Prioridad baja.
BoletínExponential View #609Exponential View08/11Resumen semanal sobre tecnología y su rechazo social. Prioridad baja.

07 · Hardware y entrenamiento local

Un ajuste de Nous sobre Qwen y más versiones para correr en casa

NovedadFuente¿Prueba independiente?MemoriaQué permite
Arete-27B de Nous Research (sobre Qwen3.8-27B, Apache 2.0)Hugging FaceNo (datos de Nous: respuestas con propaganda de 22% a 0,9% en su prueba propia)27.000 M de parámetros en BF16; fecha sin confirmarUn modelo abierto ajustado para temas políticamente sensibles
GGUF de Qwen3.8-27B, Qwen3.6-35B-A3B, Qwen3.6-27B, Gemma 4 E4B y E2B, LFM3-Omni-2B y LFM2.5-24B-A2B, actualizadosHugging Face (ggml-org)Nosegún cuantizaciónCorrer esos modelos como LLM local
GGUF de DeepSeek-V4.1-Flash-1017 y de Mage-VL-CoworkHugging Face (ggml-org)Nosegún cuantizaciónVersiones oficiales de llama.cpp para correrlos
llama.cpp b12185 a b12202 (entre otros, ajustes en el backend Hexagon de Qualcomm)llama.cpp (GitHub)Nono aplicaMejoras y arreglos en distintos chips
Campus Galaxy en Ulanqab, China, planeado para 800 MWSemiAnalysisVisita de SemiAnalysisno aplicaVer Bibliografía
SpaceXAI, hasta 6 GW en ArizonaData Center DynamicsNono aplicaVer Noticias

Sin pruebas propias en r/LocalLLaMA: un cambio en llama.cpp para correr en la CPU los expertos de un modelo MoE que no entran en la GPU; un usuario mide cómo afecta la cuantización del caché KV a Qwen3.8 27B; otro dice correr Qwen3.8-Flash-Next a unos 18 tokens por segundo en una Steam Machine con 8 GB de VRAM; Obsessive-1.7B, un subagente de búsqueda de 1,1 GB; y Terrarium, máquinas virtuales locales para agentes con permisos explícitos.

08 · Acciones aplicables

Qué hacer con esto

09 · Control de calidad

Cambios y pendientes del monitoreo

10 · Glosario

Palabras de esta edición

Cada edición explica unos pocos términos que aparecen en ella, una sola vez. Todos juntos están en el glosario.