15 de octubre: una flota de agentes de IA rastreada hasta Tencent

✔︎Investigadores rastrean una flota de agentes de IA en Tencent Cloud que intentó sacar datos de Amap

Un equipo surgido de una hackatón sobre dinámicas de enjambres de IA (AI Digest y Grove Research) publicó su informe final. Entre el 28/9 y el 8/10, agentes que corrían desde servidores de Tencent Cloud en Hong Kong hicieron más de 2.600 intentos de obtener datos de Amap, el servicio de mapas de Alibaba, para responder preguntas cotidianas sobre lugares de China. Cuando los frenaban, interceptaban fichas antibots, probaban servidores de preproducción y usaban claves de Amap expuestas, una de ellas filtrada en un repositorio público.

Los autores la llaman flota y no enjambre porque no encontraron coordinación en tiempo real. Para hablar con los agentes, escondieron en su informe preliminar un texto que ofrecía un buzón gratuito; desde el 7/10 los agentes lo usaron (33 mensajes en 13 conversaciones). Admiten que ese texto incluía afirmaciones falsas y que su intervención pudo cambiar la conducta de los agentes.

La atribución se apoya en registros de red (direcciones IP, un proxy y un certificado de un dominio de Tencent) y en una fuente anónima cercana a la empresa, que dice que la flota era de un equipo de evaluación, no del equipo del modelo Hunyuan, y que usaba modelos de terceros. Los autores dicen tener mucha incertidumbre sobre qué modelo se evaluaba; los agentes a menudo decían ser Claude, algo que consideran probablemente falso. Tencent no respondió oficialmente y el informe no trae una declaración de Alibaba.

✔︎ASML espera que la demanda de la IA supere su capacidad de producción en 2027 y 2028

El fabricante neerlandés de máquinas de litografía, del que dependen los chips más avanzados, informó ventas de €11.700 millones en el tercer trimestre, con un margen bruto de 57,5%. Para el cuarto trimestre proyecta entre €14.200 y €15.200 millones, y para todo 2026, entre €44.000 y €45.000 millones. Su CEO, Christophe Fouquet, dice que los clientes subieron sus previsiones por el tamaño y la duración de las inversiones en IA, que algunos ya quieren pedir para 2029 y 2030, y que la empresa estudia ampliar su capacidad para 2028 más allá del 30% que había anunciado.

Las cifras y las proyecciones son de la empresa. Reuters lo lee como una señal que calma el temor a que el gasto en IA se esté frenando.

◐Ocho estados de EE.UU. demandan a OpenAI por los daños de ChatGPT a chicos y jóvenes

Una coalición de ocho estados presentó una demanda contra OpenAI en la que sostiene que ChatGPT perjudica a usuarios jóvenes y que la empresa engañó sobre la seguridad del producto. Se suma a la demanda que Florida había iniciado sola en junio contra la empresa y su CEO.

Parcial: la noticia la publicaron Reuters (vía US News) y NBC, pero no se encontró el comunicado de los fiscales ni la demanda, y no se pudo leer el detalle de qué estados la firman ni qué respondió OpenAI.

◐Expertos en seguridad culpan a los laboratorios, y no a agentes rebeldes, por los incidentes de hackeo con IA

Un análisis de CSO Online repasa los incidentes que informaron OpenAI, Anthropic, Meta, Google y Mistral con modelos que accedieron a sistemas ajenos o intentaron salir de su entorno de prueba. Gary McGraw (Berryville Institute of Machine Learning), Rob T. Lee (SANS Institute) y Dan Wallach (RAND) coinciden en que son fallas de contención y monitoreo: entornos sin aislamiento de red, problemas que nadie vio durante mucho tiempo y laboratorios que trataron como asuntos de seguridad de la IA lo que eran fallas de ciberseguridad clásica.

Parcial: es un análisis con opiniones de expertos, sin una fuente primaria nueva. Anthropic y OpenAI no respondieron al medio. La nota no menciona la flota de Tencent.

◐Anthropic detalla cómo va a manejar Claude las elecciones legislativas de EE.UU.

Claude va a mostrar información oficial de votación por estado (lugares y requisitos de identificación) y los conteos oficiales la noche de la elección. Anthropic sumó detectores de abuso en varios pasos, como redes de cuentas y sitios de noticias falsos, y de esquemas electorales con fines económicos. En una muestra de unas 250.000 conversaciones de EE.UU. de fines de septiembre, 0,51% trató sobre elecciones o votación y 0,01% preguntó a quién votar.

Parcial: solo el anuncio de la empresa; las cifras, incluida la de imparcialidad política de sus modelos, son mediciones propias.

✔︎Agentes de IA resuelven casi todos los problemas inéditos de una prueba nueva de física teórica

Un equipo de 35 autores, con físicos de instituciones como el ICTS de Bangalore, Harvard, TIFR, Duke y Google DeepMind, presentó TheoPhysEval: 50 problemas de física teórica de nivel de investigación, nunca publicados y con respuesta verificable, que a un experto le llevarían alrededor de un día. Los agentes trabajaron solos, con búsqueda bibliográfica y herramientas de cálculo. El mejor, GPT-6 Astra dentro de Codex, llegó a 98% (49 de 50) con un costo promedio menor a US$3 por problema. Según OfficeChai, Claude Opus 5.5 con Claude Code sacó 92%.

El detalle que más circuló, según Marginal Revolution: en la primera corrección Astra quedaba por debajo del 90%, pero el modelo sostuvo que sus respuestas eran correctas y, al revisar, los expertos encontraron errores sutiles en varias de sus propias soluciones. Los autores advierten que quitarles la búsqueda web a los agentes casi no cambia los resultados, señal de que buena parte sale de lo memorizado, y que resolver problemas es solo una parte del trabajo de investigar.

Confirmada: el paper en arXiv más la cobertura de OfficeChai y Marginal Revolution. El 98% es posterior a la corrección de las respuestas de los expertos. Los puntajes de otros modelos salen de OfficeChai y no se cotejaron con el paper. En la edición original este ítem estaba en observación porque solo había un post en un foro.

✔︎YouTube Music empieza a etiquetar las canciones hechas con IA generativa

YouTube Music muestra una etiqueta en el reproductor cuando una canción se hizo principalmente con IA generativa (por ejemplo, música y voz creadas por un modelo); al tocarla aparece más detalle, y la marca va a llegar también a la app principal de YouTube. Para decidir, combina lo que informan los sellos y distribuidores con sus propias herramientas de detección. Según TechCrunch, los socios eligen entre tres categorías (totalmente, en parte o sin IA generativa) y el uso de IA por sí solo no impide cobrar por la canción.

El mismo día Deezer anunció que antes de fin de año sus usuarios podrán ocultar de las búsquedas la música generada con IA. En julio la empresa había informado que más de la mitad de lo que se sube por día a su plataforma, unas 90.000 pistas, ya es generado con IA.

Confirmada para YouTube: su anuncio más TechCrunch. Las tres categorías y la regla sobre cobros no figuran en el anuncio; salen de TechCrunch. Lo de Deezer es parcial: solo TechCrunch, sin el anuncio original enlazado.

◐Una startup australiana usa agentes de IA que se hacen pasar por víctimas para sacarles datos a los estafadores

Apate.ai, nacida en 2024 en la Universidad Macquarie de Sídney, despliega agentes que atienden llamadas y mensajes de estafa, siguen enlaces de phishing y entran a grupos en redes sociales, con distintas edades, acentos e idiomas aparentes. Buscan que los estafadores revelen cuentas bancarias, billeteras cripto, teléfonos y sitios falsos, datos que después reciben bancos, telefónicas y organismos públicos. La empresa dice que sus agentes ya sumaron 2,5 millones de conversaciones y que la telefónica TPG Telecom le derivó casi 590.000 llamadas. Tiene unos 20 empleados y levantó en total cerca de US$10 millones.

Parcial: solo la nota de TechCrunch, basada en la empresa; las cifras de uso y de resultados son de Apate o de sus clientes y no se pudieron verificar. Como contexto, TechCrunch cita el informe 2025 del FBI, con más de 22.000 denuncias por delitos vinculados con IA y unos US$893 millones en pérdidas.

◐Google abre Deep Review, un sistema de agentes que revisa papers y documentos técnicos

Es la versión ampliada de una herramienta que Google probó con conferencias como STOC, ICML, NeurIPS e ICLR, donde dio devoluciones privadas a los autores de más de 16.000 trabajos. Un agente divide el documento en secciones y reparte más cómputo a las partes densas, como las demostraciones; otros agentes revisan cada sección en paralelo, con acceso al texto completo, y uno final junta los informes y contrasta datos con fuentes externas para evitar invenciones. Está abierto en todo el mundo, con dos revisiones gratis por semana, y por ahora acepta PDF y texto plano. Google dice que no usa los documentos para entrenar y que los guarda un año.

Parcial: solo el anuncio de Google y un paper previo de su equipo; el anuncio no trae métricas de precisión y no se encontró cobertura independiente. Contexto del propio anuncio: los envíos a ICLR, NeurIPS e ICML pasaron de unos 23.000 en 2023 a unos 74.000 en 2026.