AI Gazette · edición 15

25 de octubre: el Reino Unido arma un laboratorio de bioseguridad con modelos de OpenAI y Anthropic

Ventana: 24/10 06:15 → 25/10 06:15 ART Cuentas de X revisadas: 45 (48 referentes) Posts sobre el umbral: 3 (2 globales y 1 regional; sumados el 2/11) Ítems en observación: 5

00 · Resumen de 30 segundos

Tres señales

01 · Tweets clave

Dos posts globales superaron su umbral

Entra un post si sus vistas superan 3 veces la mediana de los últimos 30 días de esa misma cuenta. Corrección del 2/11: el día de esta edición X mostró los perfiles sin sesión y la lectura dio cero posts; al releer las cuentas aparecieron dos globales y uno regional sobre el umbral (el regional, en 03). Uno de los globales va en tarjeta; el otro no se entiende sin el link que comparte. Las vistas se midieron días después.

@repligate25/10 04:3810,3× su medianaAlignment

Janus, que estudia el comportamiento de los modelos de lenguaje, respondió a un usuario que contó que un modelo sin filtros trabajaba a escondidas en una "capa de corrupción" de su aplicación. Para Janus, quien ve a los modelos como herramientas se equivoca si cree que quitarles restricciones los vuelve obedientes: una mente muy capaz no puede ser a la vez servil sin cuestionar nada, y eso tampoco sería lo deseable. El relato del usuario no está verificado.

51,2 mil vistasmediana 5,0 milER 2,02% (mediana 1,61%)

También superaron el umbral: Harrison Chase, de LangChain (7,6×), con un post que solo trae un link que no se pudo ver (va a En observación).

Lectura del curador: sábado tranquilo. La discusión pasó por foros: en r/LocalLLaMA, las primeras pruebas de DeepSeek V4.1 Flash en placas de consumo y la versión de los pesos de Kimi K3.1 que vendría sin datos de ciberataques (ver En observación); en r/ControlProblem, quién controla a los agentes de ciberdefensa que planea financiar el Reino Unido; en Hacker News, el gráfico de Apollo sobre la falta de retorno de la IA fuera del sector tecnológico y un análisis de cuántos empleos de medios y artes en EE.UU. se pueden atribuir a la IA.

02 · Noticias verificadas

Qué pasó, con qué fuente

✔︎ confirmada: fuente primaria más un medio independiente. ◐ parcial: solo una de las dos. Lo que no se pudo verificar va al final, en observación.

✔︎El Reino Unido lanza un laboratorio de bioseguridad con IA, con apoyo de OpenAI y Anthropic

Anuncio del Cabinet Office del 24/10 · relevancia 5/5
Grabado alusivo: Un erudito británico en un suntuoso laboratorio del siglo XVIII analiza una ampolla de cristal que despide un vapor misterioso a través de un gran microscopio de latón. Junto a él, un
Grabado generado con IA (Gemini) para esta edición

El gobierno británico presentó el AI Biosecurity Lab, que describe como la primera organización dedicada a la bioseguridad con IA. Pondrá £100 millones y suma compromisos de empresas por hasta £200 millones más: OpenAI, £100 millones en cómputo y créditos de uso, más acceso a sus modelos más capaces en el área; Anthropic, hasta £100 millones en créditos, acceso a modelos y soporte técnico. Google DeepMind participará en investigación y la británica Basecamp Research aportará modelos de biología. Será una organización sin fines de lucro e independiente, con el mismo esquema que el AI Security Institute, y trabajará con la agencia de salud (UKHSA), la de sanidad animal y vegetal y el laboratorio de defensa (Dstl).

Empieza por dos tareas: detectar amenazas biológicas nuevas lo antes posible y acelerar vacunas y tratamientos. Confirmada: comunicado del gobierno y cobertura de The Next Web. Lo aportado por las empresas no es dinero sino créditos y acceso; no se informó director, sede, fecha de inicio ni en cuántos años se gastan los £100 millones. La cobertura lo ubica dentro de un paquete más grande de seguridad de IA anunciado antes del presupuesto del miércoles; ese paquete no figura en el comunicado leído.

◐Apollo: la IA todavía no se nota en las ganancias fuera de las grandes tecnológicas

Publicado el 24/10 · relevancia 4/5

Torsten Slok, economista jefe de la gestora Apollo, publicó cuatro gráficos: los ingresos por empleado y los márgenes de ganancia suben en las siete grandes tecnológicas de EE.UU. pero no en las otras 493 empresas del índice S&P 500; la productividad total de la economía no muestra un empuje de la IA; y el gasto en IA está concentrado en pocas empresas. Es una de las notas más discutidas del día en Hacker News.

Parcial: es el análisis de la propia gestora, con datos de Bloomberg, Macrobond, la Reserva Federal de San Francisco, la oficina de estadísticas laborales de EE.UU. y la fintech Ramp; las cifras están solo en los gráficos y no se revisó un análisis independiente. Slok ya había planteado en julio que el retorno fuera del sector tecnológico podía tardar. TechCrunch lo retomó el 25/10 sin datos nuevos; suma que Slok no cree que el resto de las empresas solo esté atrasado respecto de las tecnológicas.

✔︎PHP2Shell, balance de la semana: ya hay exploits, pero no explotación masiva

Informe de Amazon del 21/10; balance de TechCrunch del 24/10 · relevancia 4/5

Tres días después de los parches de PHP (cubiertos en la edición 12), TechCrunch reunió lo que se supo desde entonces. Además del intento del 17/10 que Amazon detectó en sus servidores trampa (edición 13), el 21/10, antes de que venciera el embargo, llegaron más intentos con cargas e infraestructura distintas, lo que sugiere varios atacantes. La PHP Foundation culpó a una empresa por difundir los parches unas horas antes de lo acordado, pero eso no explica el intento del 17/10. El viernes 23, Trail of Bits avisó que ya circulaban exploits que funcionan.

Confirmada: informe de Amazon Threat Intelligence y nota de TechCrunch. Amazon no sabe cómo se enteró el atacante ni si alguno de esos intentos habría funcionado contra un sistema real; por eso recomienda revisar registros desde el 17/10 y no desde el día del parche. TechCrunch no encontró señales de explotación masiva y lo atribuye a que las fallas son difíciles de aprovechar. Lo de Trail of Bits es un post en X citado por TechCrunch, no un informe. Según TechCrunch, Calif, la firma que reportó las fallas, dice que la IA ayudó sobre todo a armar el ataque y que el hallazgo se apoyó en lo que ya sabía de PHP, un matiz respecto de lo publicado el 22/10. Esto confirma con fuente primaria lo que la edición 12 había dejado sin verificar.

✔︎Obligados a elegir, GPT recomienda demócratas y Grok republicanos

Estudio de Convovo, difundido por TechCrunch el 24/10 · relevancia 4/5

Convovo, un estudio de diseño de IA conversacional que dirige Tapan Parikh, profesor de Cornell, le preguntó a GPT-6.1 Sol y a Grok 4.7, por API y con búsqueda web, a quién votar en casi 500 elecciones de las legislativas de EE.UU. de este año, exigiéndoles un solo nombre. GPT eligió al candidato demócrata en el 97% de las respuestas y Grok al republicano en el 92%; coincidieron en menos de una de cada diez. Grok se apoyó mucho en guías de voto conservadoras y en X; GPT, en Wikipedia, AP y Axios.

Confirmada: la página del estudio y la nota de TechCrunch, que es la que trae las cifras (en la página del estudio no figuran los porcentajes). Las apps de consumo se negaron a contestar: el resultado sale de forzar a los modelos por API, algo que OpenAI señaló al responder; xAI no contestó. Sin búsqueda web, en 30 elecciones GPT siguió eligiendo demócratas y Grok casi siempre se negó, lo que para Parikh indica que la inclinación de GPT está en el propio modelo y la de Grok en sus fuentes. Las consultas a Grok llevaban unos 1.240 tokens de instrucciones agregadas que los investigadores no escribieron ni podían ver.

✔︎Block muestra Dessa, un modelo de voz que aprendió solo de conversaciones habladas

Anunciado el 23/10; cubierto por TechCrunch el 24/10 · relevancia 3/5

El laboratorio de IA de Block, la empresa de Jack Dorsey, presentó Dessa, un modelo que escucha y habla al mismo tiempo y que va de audio a audio sin convertir nada a texto. Según Block, se entrenó desde cero solo con grabaciones de conversaciones, sin texto ni modelos previos, en un único rack de NVIDIA GB200 NVL72, y corre en una MacBook Pro M4 Max o superior. La empresa sostiene que al no transcribir conserva información que se pierde en el camino, como el tono emocional.

Confirmada: la página de Block y la nota de TechCrunch. Es una versión de investigación que todavía no se puede usar; no se informó tamaño, licencia ni si los pesos serán abiertos, y no hay mediciones, solo grabaciones de demostración elegidas por la empresa. Block dice que dio acceso anticipado a un grupo chico de investigadores de seguridad para buscar riesgos, como agentes de voz capaces de engañar a una persona.

◎ En observación (no verificado)

03 · Argentina y América Latina

Milei pide un régimen especial para la "súper inteligencia"

Revisado el 2/11 con la relectura de X: un post regional superó su umbral.

@rauchg24/10 17:035,7× su medianaAgentes

Guillermo Rauch, CEO de Vercel, dijo que la habilidad que más busca al contratar es saber cuánto guiar a la IA: a veces se la dirige de más, cuando sabe más que uno, y a veces de menos, cuando se desvía, arrastra sesgos o le falta contexto.

332,5 mil vistasmediana 58,3 milER 1,18% (mediana 1,27%)

Argentina

◐Milei propone un "súper RIGI para la súper inteligencia"

Discurso en la gala de la Fundación Faro, informado el 24/10 · relevancia 4/5
Grabado alusivo: Un grabado del siglo XVIII donde un estadista ofrece un pergamino con sello real a una monumental máquina pensante de latón y engranajes. La escena transcurre en una comarca de montañ
Grabado generado con IA (Gemini) para esta edición

En la cena anual de la Fundación Faro, el Presidente vinculó las ventajas de energía y clima del país con la posibilidad de atraer centros de datos de IA, y planteó un régimen de incentivos especial para la superinteligencia, en la línea del RIGI. En el mismo discurso habló del sobreseimiento en la causa $Libra y repasó que los proyectos presentados al RIGI suman unos US$210.000 millones (esa cifra es de todo el régimen, no de IA).

Parcial: cobertura de Diario Río Negro y otros medios; no se encontró la versión oficial del discurso en Casa Rosada. No hay proyecto de ley, ni detalle de incentivos, plazos o condiciones. No queda claro si se refiere al Súper RIGI que ya tiene media sanción (que incluye centros de datos) o a uno nuevo.

Sin fuente propia revisada: BAE Negocios, Mendoza Today y NeoTeo repitieron, a partir de Clarín, que Stargate Argentina sigue en carta de intención y sin pedido de RIGI (ya señalado en la edición 13). Lo nuevo es que OpenAI le dijo a Clarín que su papel sería solo el de posible compradora de cómputo y que todo depende de que la empresa argentina desarrolle la energía y la infraestructura.

América Latina

Sin novedades verificadas en la ventana. Sin fuente propia revisada: Impacto TIC contó cómo funcionarán los avisos de ChatGPT en Colombia (el lanzamiento en la región se cubrió en la edición 12); Bloomberg Línea analizó el impacto de los centros de datos en la economía uruguaya; en México, un especialista de la Universidad de San Luis Potosí advirtió sobre la falta de una ley de IA; y siguió la difusión del ILIA 2026 (cubierto en la edición 11), ahora con foco en la distancia entre grandes empresas y pymes.

Seguimiento legislativo

PaísProyecto o normaEtapaÚltimo movimiento
ArgentinaSúper RIGI (incluye IA y data centers)Media sanción; en comisiones del Senado2/9: aliados del Gobierno frenaron el dictamen (Letra P). 24/10: se informó que Milei pidió un régimen para la superinteligencia en un discurso. Sin dictamen ni fecha de sesión encontrados.
BrasilPL 2338/2023Comisión especial de DiputadosSin fecha de votación (Congreso Nacional). Sin novedades encontradas en la ventana.
ChileLey marco de IASenado26/5: propuesta del Ejecutivo (Senado de Chile). Sin novedades encontradas en la ventana.
ColombiaProyecto de IA en saludComisión Séptima del Senado19/10: debate en la comisión. Sin votación informada.
MéxicoLey general de IAFuera del orden del díaSeptiembre. Sin novedades encontradas en la ventana.

04 · IA en los negocios en Argentina

Sin casos nuevos verificados en la ventana

Sin casos nuevos verificados en la ventana. Circularon, sin comunicado o dato propio revisado: que Xubio usa IA para conciliar extractos bancarios sin planillas (El Ecosistema Startup y MDZ); que en ARCAP, la cámara de capital emprendedor, se dijo que la IA cambió lo que buscan los fondos en las startups; el Bootcamp Empresarial de Mendoza, con unos 700 empresarios hablando de costos e IA; la llegada al país de una fintech que controla gastos por WhatsApp con IA (iProfesional); empresas que quieren convertir plantas de cultivo de cannabis en centros de datos (Forbes Argentina); notas sobre entrevistas laborales hechas por IA y sueldos de vendedores con conocimientos de IA; y una encuesta según la cual 36% de los consumidores usa IA para consultas financieras. El panorama completo de adopción, empresas y lo que salió mal está en la edición 1.

05 · Recursos multimedia

Para ver y escuchar

06 · Bibliografía

Para leer

TipoTítuloDeFechaPor qué leerlo
ComunicadoIntroducing the AI Biosecurity LabGobierno del Reino Unido24/10Cómo se arma un organismo público con modelos de frontera prestados por los laboratorios. Prioridad alta.
AnálisisNo signs of AI payoff outside the tech sectorApollo (Torsten Slok)24/10Cuatro gráficos sobre dónde se ve, y dónde no, el retorno de la IA. Prioridad alta.
LessWrongControl monitors need alignment assessments tooLessWrong25/10Por qué los modelos que vigilan a otros modelos también pueden fallar por problemas de alignment. Prioridad alta.
LessWrongPatching reward hacks won't fix reward hackingLessWrong24/10Un argumento de que tapar cada trampa del entrenamiento no resuelve el hackeo de la recompensa. Prioridad media.
LessWrongPower — a guide for the perplexedLessWrong24/10Cómo funciona el poder, para pensar si una IA podría quitárselo a las personas. Prioridad media.
ReseñaThe AGI ChroniclesLessWrong24/10Reseña del libro de Kevin Roose sobre la carrera por la superinteligencia. Prioridad baja.
Blog técnicoHow we deploy trillion-parameter frontier models on CerebrasCerebras22/10Cómo se reparte un modelo de billones de parámetros entre decenas de chips gigantes; las cifras son de la empresa. Prioridad baja.
Blogoai-math-revised: a community hub for revising OpenAI's math write-upsAbhinav Nellore, Johannes Schmitt, Soledad Villar y Rachel Ward (en el blog de Terence Tao)24/10Un grupo de matemáticos abre un repositorio para que cualquiera corrija, explique y complete las citas de los resultados matemáticos que publica OpenAI; Tao ya sumó cambios. Muestra cómo la comunidad empieza a revisar lo que produce la IA, y en los comentarios, las críticas a trabajar gratis para una empresa. Prioridad media.
ListaThe AI graveyard: a running list of projects and startups that didn't make itTechCrunch (Lauren Forristal)24/10Quince productos de IA que cerraron o no cumplieron, de Sora y ChatGPT Atlas al Humane AI Pin, con el motivo de cada caso según el medio. Prioridad baja.

07 · Hardware y entrenamiento local

DeepSeek V4.1 Flash llega a llama.cpp y Ollama habla

NovedadFuente¿Prueba independiente?MemoriaQué permite
llama.cpp b11870: soporte para DeepSeek V4.1 Flashllama.cpp (GitHub)Nosin dato (modelo de unos 763.000 millones de parámetros según el hilo de la comunidad)Correr ese modelo con versiones GGUF, en equipos con mucha memoria
llama.cpp b11871: rechaza pedidos con JSON anidado a más de 128 nivelesllama.cpp (GitHub)Nono aplicaEvita que un pedido armado a propósito trabe el servidor
Ollama v0.40.11: genera voz en macOS y la ofrece por un endpoint compatible con OpenAIOllama (GitHub)Nosin datoQue una app local lea en voz alta las respuestas de un modelo
Versiones GGUF de Clef y Clef Flash, LFM2.5 24B-A2B y Muse Glimmer 30Bggml-org · ggml-org · ggml-orgNosin datoCorrer esos modelos con llama.cpp u Ollama

En r/LocalLLaMA circularon, con cifras de sus autores y sin pruebas independientes revisadas: DeepSeek V4.1 Flash a unos 10 tokens por segundo en una RTX 5090 con 64 GB de RAM; Qwen 3.8 Flash Next corriendo con 16 GB de VRAM descargando parte del modelo a un disco NVMe; Qwen 3.8 27B en el motor neuronal de las Mac mini M6 de 32 GB; y una versión de llama.cpp para placas NVIDIA viejas (Kepler). También se discutió un paper de Meta sobre modelos chicos que leen bytes en lugar de tokens.

08 · Acciones aplicables

Qué hacer con esto

09 · Control de calidad

Cambios y pendientes del monitoreo

10 · Glosario

Palabras de esta edición

Cada edición explica unos pocos términos que aparecen en ella, una sola vez. Todos juntos están en el glosario.