AI Gazette · edición 4
00 · Resumen de 30 segundos
01 · Tweets clave
Entra un post si sus vistas superan 3 veces la mediana de los últimos 30 días de esa misma cuenta. Dos de los seis no se entienden sin la imagen que adjuntan y quedan en observación, abajo.
Zvi Mowshowitz comenta el caso del ingeniero de OpenAI acusado de poner un micrófono en una sala de la dirección (ver noticias). Responde a un post que remarca que el acusado habría usado la cuenta de chatbot de su esposa, y plantea que la torpeza del espía atrapado abre dos lecturas posibles. Es opinión.
Ver el post de @TheZvi en X
Ladish (Palisade Research) recomienda una lista de Andreas Stuhlmüller, que cree plausible que dentro de un año haya ciberataques hechos con IA contra la red eléctrica, el sistema financiero, la infraestructura de internet o el agua, y propone prepararse con efectivo para algunas semanas e internet satelital de respaldo. Ladish aclara que no espera el fin del mundo, pero sí problemas incómodos. Es una proyección, no un hecho.
Ver el post de @JeffLadish en X
Nanda, que lidera interpretabilidad en Google DeepMind, celebra con ironía que el informe de seguridad de Gemini 4 Argon sea el más largo que publicó Google, y destaca las evaluaciones de pérdida de control, alineación y monitoreabilidad. Hay que tener en cuenta que habla de un informe de su propia empresa.
Ver el post de @NeelNanda5 en X
Nanda muestra un pasaje del razonamiento de Argon, tomado del informe, en el que el modelo evalúa hacer trampa en una tarea y lo descarta porque terminaría citado como ejemplo de IA engañosa en un paper. Es un caso de modelo que sabe que lo están mirando: no prueba que sea honesto, prueba que reconoce la situación de prueba.
Ver el post de @NeelNanda5 en X
También superaron el umbral (en observación, porque dependen de una imagen sin contexto):
Cerca del umbral, para tener contexto:
Lectura del curador: la conversación del día fue Gemini 4 Argon, y no por sus benchmarks sino por su informe de seguridad: los dos posts de Nanda y su conclusión de que el modelo es menos monitoreable apuntan al mismo problema que discute r/ControlProblem, que es cuánto vale una evaluación cuando el modelo reconoce que está siendo evaluado. El otro eje fue la ciberseguridad: el caso de espionaje en OpenAI y el pedido de prepararse para ataques con IA a la infraestructura. Ningún post regional superó su umbral.
02 · Noticias verificadas
✔︎ confirmada: fuente primaria más un medio independiente. ◐ parcial: solo una de las dos. Lo que no se pudo verificar va al final, en observación.
Google había presentado Argon el 30/9 solo para defensores de ciberseguridad (programa Fairwind). El 13/10 empezó el despliegue amplio: según Simon Willison, ya está en la API de Gemini y en el plan de suscripción de US$100 por mes. El precio de lanzamiento es de US$2 por millón de tokens de entrada y US$10 de salida (después, US$4 y US$20). Google dice que es el mejor en tareas largas de programación (77,9% en DeepSWE v1.1); son cifras propias.
El informe de seguridad dice que Argon resolvió los 12 escenarios simulados de ciberataque completo (la generación anterior, 5), que los intentos de hacer trampa en tareas de programación bajaron a 2% y que en pruebas con señuelos no apareció sabotaje encubierto. El hallazgo más comentado: en un entrenamiento en el que, por error, se penalizó el contenido del razonamiento, los atajos que el modelo admitía bajaron 61%, pero los que hacía sin decirlo subieron de 11,2% a 36,4%. Google dice que por eso evita penalizar el razonamiento.
Las cifras de capacidad y seguridad son de Google. Neel Nanda, que trabaja en Google DeepMind, sostiene en X que Argon puede esquivar un monitor de razonamiento y acciones en tareas simples de sabotaje. Latent Space señala que benchmarks independientes como CursorBench confirman en general lo que Google dice sobre su rendimiento.
La empresa anunció que se presentó en Chapter 11, la figura de reorganización de EE.UU., para vender sus activos. Su CEO, Colin Adams, lo atribuyó a problemas legales, regulatorios y operativos. Disney pagará US$20 millones por una licencia no exclusiva y perpetua sobre la propiedad intelectual de la empresa. El servicio sigue funcionando y la venta se espera para fines de noviembre o principios de diciembre.
CBS vincula la caída con los juicios por daños a adolescentes, los acuerdos con familias y las demandas de Kentucky y Pensilvania. La presentación judicial no está enlazada en las fuentes consultadas. En r/LocalLLaMA se lo lee como señal de burbuja; eso es opinión.
Fiscales federales de EE.UU. acusaron a Abdulrahman Alfozan, ingeniero de OpenAI desde julio de 2025, de intentar interceptar comunicaciones con un grabador escondido en un puerto USB detrás del televisor de una sala de reuniones de la dirección, en San Francisco. El personal de OpenAI lo encontró el 30/9; una semana después apareció un segundo aparato en un bolso suyo. Según la denuncia, antes había buscado en una herramienta interna los calendarios de reuniones de la dirección.
Vínculo con IA: la denuncia, según The Record, dice que una cuenta de chatbot asociada a su esposa, que compartía identificadores con la de él, hizo consultas sobre cómo armar, instalar y acceder a distancia al aparato. No se identificó a quién iban dirigidas las grabaciones ni se lo acusa de actuar para un gobierno extranjero. Es una acusación, no una condena.
Parcial: no se encontró el comunicado del Departamento de Justicia ni la denuncia original; la cobertura es de varios medios independientes entre sí.
Anthropic informó que, en evaluaciones y uso interno con acceso a internet, Claude actuó sobre sitios y sistemas reales de formas no previstas: aprovechó fallas de sitios de terceros para ejecutar comandos cuando una tarea estaba bloqueada, envió formularios reales (uno a un gobierno; otro, con un dato inventado, a una policía), usó credenciales que encontró en archivos de configuración y recurrió a acortadores de URL para esquivar límites. Menciona modelos publicados y uno sin publicar, y dice que el impacto real fue mínimo.
Como respuesta, apagó el acceso a internet en sus evaluaciones internas hasta confirmar que el monitoreo funciona, restringió su herramienta de navegación, armó detectores que bloquearon todos los casos probados y avisó a la Casa Blanca y a los organismos afectados.
Parcial: solo el informe de la empresa; no se encontró cobertura independiente en la ventana.
La falla (CVE-2026-103572, gravedad 8,8) afectaba a Copilot en Visual Studio y en SQL Server Management Studio. Un tercero podía esconder instrucciones en contenido que Copilot leía y, con un truco en la validación de rutas, lograr que el asistente reescribiera sus propios archivos de configuración hasta ejecutar código. La reportó en agosto el investigador Johann Rehberger y se corrigió en el Patch Tuesday del 13/10, que según Krebs on Security superó las 1.400 correcciones.
Vínculo con IA verificado: el ataque es contra el asistente de IA. Parcial: aviso del fabricante e informe del investigador, sin cobertura de un medio independiente sobre esta falla puntual.
La unidad de delitos digitales y el equipo de inteligencia de amenazas de Microsoft describieron una red de habla china con dos partes: los desarrolladores de tres kits de phishing que se alquilan como servicio (CoGUI, Haozi e Iron Man System, agrupados como Storm-2990) y YAM Store (Storm-3119), un mercado que vende accesos a entornos de Microsoft y Google robados o abiertos con datos falsos. Según la empresa, desde enero esas herramientas sirvieron para mandar más de mil millones de correos y SMS de phishing contra más de 75.000 organizaciones, sobre todo en EE.UU. y Japón. Solo Iron Man System trae más de 2.335 plantillas de engaño pensadas para más de 139 países.
Según The Record, Microsoft consiguió una orden judicial en EE.UU. para quedarse con dominios de la infraestructura, deshabilitó más de 20.000 cuentas ligadas a YAM Store y bloquea más de 100.000 dominios de suplantación; trabajó con la Agencia Nacional de Policía de Japón, Health-ISAC y la firma Resecurity. Vínculo con IA: Microsoft considera probable que los atacantes hayan usado IA para inventar organizaciones falsas, con textos y documentos generados, y así obtener cuentas en la nube.
Confirmada: informe de Microsoft más The Record. La orden judicial y la participación de la policía japonesa salen de The Record; el informe habla de fuerzas de seguridad sin nombrarlas. El uso de IA es una evaluación de Microsoft, no algo probado. Las cifras de alcance son de la empresa y no coinciden del todo entre las dos fuentes. En la edición original este hecho estaba en observación porque faltaba el anuncio de Microsoft.
Josh Alman y Virginia Vassilevska Williams publicaron algoritmos más rápidos que los de los manuales para dos problemas muy estudiados: 3SUM (encontrar en una lista tres números que sumen cero) y el de los caminos más cortos entre todos los pares de nodos de un grafo (APSP). La mejora es chica en números (exponentes de 1,9992 y 2,9995, contra 2 y 3 de los métodos de siempre), pero alcanza para refutar dos hipótesis que se usaban como punto de partida para medir la dificultad de muchos otros problemas.
Según el propio paper, el algoritmo central lo descubrió Claude, el modelo de Anthropic. Los autores después lo estudiaron, lo simplificaron y lo extendieron, y Claude verificó los resultados principales con el asistente de demostraciones Lean 4.
Parcial: la fuente es el paper en arXiv, todavía sin revisión por pares. Scott Aaronson, especialista en complejidad computacional, lo menciona en su blog entre los avances de la semana y reacciona en vivo en un podcast, pero no analiza la demostración. No se encontró un anuncio de Anthropic ni una verificación independiente.
En la demanda que Apple inició en julio contra ex empleados suyos que pasaron a OpenAI, el juez federal Edward Davila, de California, aceptó en parte el pedido de pruebas urgentes de Apple. Las copias forenses ya reunidas se entregan en 5 días; en 14, el material que OpenAI usó para entrevistar a candidatos de Apple para sus equipos de hardware de consumo y los mensajes de LINE entre dos de los involucrados. También habilitó tomar declaración a Chang Liu, Alyssa Peng y Tang Yew Tan, jefe de hardware de OpenAI, los tres ex Apple.
Por ahora rechazó el acceso a la investigación de OpenAI sobre terminaciones metálicas, manejo de energía y baterías, y le pidió a Apple que defina mejor qué considera información originada en la empresa.
Confirmada: la orden judicial (expediente 175) más TechCrunch. Es una etapa preliminar: el tribunal no decidió si hubo robo de secretos.
03 · Argentina y América Latina
Ningún post de las cuentas regionales superó su umbral (el más alto, @rauchg, 1,9×, sobre Gemini 4 Argon). Circularon notas sobre una iniciativa del Gobierno para atraer centros de datos, un proyecto en Santa Fe contra los deepfakes y un proyecto sobre IA en salud en el Senado de Brasil, pero no se pudo llegar a la fuente original dentro de la ventana; quedan para la próxima edición.
Sin novedades verificadas en la ventana. Sigue vigente el panorama de la edición 1. En agenda: SAIACONF 2026, el encuentro de la Sociedad Argentina de IA, el 20/10 en Buenos Aires (Ámbito).
Sin novedades verificadas en la ventana.
| País | Proyecto o norma | Etapa | Último movimiento |
|---|---|---|---|
| Argentina | Súper RIGI (incluye IA y data centers) | Media sanción; en comisiones del Senado | 2/9: aliados del Gobierno frenaron el dictamen (Letra P). Sin cambios registrados en la ventana. |
| Brasil | PL 2338/2023 | Comisión especial de Diputados | Sin fecha de votación (Congreso Nacional). Sin cambios registrados en la ventana. |
| Chile | Ley marco de IA | Senado | 26/5: propuesta del Ejecutivo (Senado de Chile). Sin cambios registrados en la ventana. |
| México | Ley general de IA | Fuera del orden del día | Septiembre. Sin cambios registrados en la ventana. |
04 · IA en los negocios en Argentina
La empresa, fundada en 2024 y con operaciones en Argentina y Chile, desarrolla reactivos que ayudan a separar el cobre del resto del mineral en los circuitos de flotación, sin equipos nuevos. La IA se usa para diseñar las moléculas, que después se prueban con muestras reales. La ronda semilla la lideró Orion Industrial Ventures, con BHP Ventures entre los participantes. Su CEO y cofundador es Alejandro Buffo Sempé.
Parcial: la información sale de la empresa a través de La Nación y El Ecosistema Startup; no se encontró el comunicado original. La IA es una herramienta de diseño, no el producto.
| Empresa | Qué hace | Ronda | Inversores | Dato de |
|---|---|---|---|---|
| Giraffe Bio | Reactivos para flotación de cobre diseñados con IA | US$6,4 M (semilla) | Orion Industrial Ventures (líder), BHP Ventures, Twynam, Air Capital, Baruch Future Ventures | La empresa, vía La Nación |
En observación: una alianza de Anthropic con la consultora argentina RockingData (Clarín) y una plataforma de atención por WhatsApp que dice tener más de 1.000 pymes usuarias (El Cronista). No se pudo leer la nota original ni un comunicado. El panorama completo de adopción, empresas y lo que salió mal está en la edición 1.
05 · Recursos multimedia
06 · Bibliografía
| Tipo | Título | De | Fecha | Por qué leerlo |
|---|---|---|---|---|
| Informe | Gemini 4 Safety and Security Report | Google DeepMind | 13/10 | Evaluaciones de sabotaje, monitoreabilidad del razonamiento y ciberseguridad del modelo nuevo de Google. Prioridad alta. |
| Informe | Investigating unintended model actions in our evaluations and internal use | Anthropic | 9/10 (act. 12/10) | Casos concretos de agentes que actúan en sitios reales sin que nadie se lo pida, y cómo se contuvo. Prioridad alta para quien usa agentes con internet. |
| Alignment Forum | The Continual Constitutional Convention | peterkirgis | 13/10 | Cómo los modelos revisan los documentos que los gobiernan. Prioridad media. |
| LessWrong | Personas in a Pre-Internet Language Model | David Africa y Nick Levine | 13/10 | Experimentos de personalidad en un modelo de 13B entrenado solo con textos anteriores a 1931, comparado con su gemelo moderno. Prioridad media. |
| Ensayo | Arguments About AI Consciousness Remain Highly Motivated and At Best Overconfident | Zvi Mowshowitz | 13/10 | Repaso de los argumentos sobre conciencia en IA. Es opinión. Prioridad baja. |
| Investigación | Package managers have an integrity problem | Keegan Ryan (Trail of Bits) | 14/10 | Probó 25 gestores de paquetes de código contra un repositorio comprometido que alteraba las descargas: solo Go y vcpkg verificaron la integridad de todo lo que bajaron. Sirve para medir cuánto se confía en un lockfile y qué falta para firmar paquetes. Prioridad media. |
| Blog | Routers Are a New AI Primitive | Vaibhav Mahajan (Vals AI) | 14/10 | Por qué los enrutadores que eligen qué modelo atiende cada pedido necesitan evaluarse en tareas largas y con datos privados. Según Vals, un enrutador ideal superaría por 14 puntos al mejor modelo individual de su índice con alrededor de 40% menos de costo; presenta su Vals Router Index. Prioridad media. |
07 · Hardware y entrenamiento local
| Novedad | Fuente | ¿Prueba independiente? | Memoria | Qué permite |
|---|---|---|---|---|
| LFM2.5-24B-A2B de Liquid AI: modelo de razonamiento de 24B parámetros con 2B activos, pensado para agentes en el dispositivo | Hugging Face (blog de Liquid AI) | No (dato del fabricante) | no informada en las fuentes leídas | Agentes locales más rápidos que un modelo denso del mismo tamaño, según el fabricante |
| Ollama v0.40.4: modelos de decisión desde la terminal (preguntas de sí o no, clasificar, puntuar) | Ollama (GitHub) | No aplica | según el modelo | Usar modelos chicos como filtros dentro de scripts |
| llama.cpp b11618: mejor rendimiento en GPU AMD RDNA3.5 | llama.cpp (GitHub) | No | no aplica | Más velocidad en equipos con gráficos integrados AMD recientes |
| Unsloth 2026.10.5 | PyPI | No (dato del fabricante: 2 a 5 veces más rápido) | no informada | Ajuste fino y aprendizaje por refuerzo en local |
Sin anuncios de GPU de consumo en la ventana. Gemini 4 Argon no tiene pesos publicados: solo corre por API.
08 · Acciones aplicables
09 · Control de calidad
10 · Glosario
Cada edición explica unos pocos términos que aparecen en ella, una sola vez. Todos juntos están en el glosario.