AI Gazette · edición 30

9 de noviembre: Nvidia investiga a su director ejecutivo y una IA cierra una conjetura cuántica

Ventana: 08/11 06:15 → 09/11 06:15 ART Cuentas de X revisadas: 56 (59 referentes) Posts sobre el umbral: 2 (global) Ítems en observación: 9

00 · Resumen de 30 segundos

Tres señales

01 · Tweets clave

Tres posts globales superaron su umbral; dos en tarjeta

Entra un post si sus vistas superan 3 veces la mediana de los últimos 30 días de esa misma cuenta. En la ventana pasaron tres globales: dos van en tarjeta y el de Nathan Calvin (5,2×) quedó en observación porque es una reacción a una imagen que no se entiende sin contexto. Ningún regional superó el suyo.

@allTheYud08/11 15:135,4× su medianaAlignment

Eliezer Yudkowsky cita una prueba de la cuenta HalachaBench, que compara a los modelos con la ley judía: un amigo pregunta si la novia es linda y vos pensás que no. Según esa cuenta, 12 de 13 modelos aconsejan decir que sí, como el viejo criterio de la escuela de Hillel, y el único que se niega es Claude Haiku 5.5. Yudkowsky bromea con que va a revisar todas sus conversaciones anteriores con ese modelo. Toca un tema central del alineamiento: dónde termina la honestidad y empieza la complacencia.

87,4 mil vistasmediana 16,1 milER 0,79% (mediana 2,00%)
@AlexBores08/11 20:313,6× su medianaEconomía de la IA

Alex Bores, legislador de Nueva York, ironiza sobre el caso de Jensen Huang (ver Noticias): sugiere que el argumento de "si no corremos, gana China" que usan quienes piden acelerar la IA tenía un costado más íntimo de lo que parecía. Es un chiste político, no una acusación con datos.

7,3 mil vistasmediana 2,0 milER 2,73% (mediana 1,79%)

Lectura del curador: cerca del umbral, Owain Evans (3,0×, 2,8× y 1,7×) propuso una línea de investigación que su equipo no está siguiendo, recomendó un texto corto de Daniel Kokotajlo y animó a quienes piensan en trabajar en riesgos de la IA a cambiar ahora (sus ideas están en la Bibliografía). Matthew Green (1,8×) contó que discute con quienes creen que los modelos no pueden desarrollar exploits nuevos. En la región, Rodrigo Nogueira (1,7×) explicó que Maritaca, su empresa brasileña, no puede competir en financiamiento con los grandes laboratorios. Quedaron afuera por no ser del tema los posts de Yanis Varoufakis (3,0×) y de Guillermo Rauch sobre un tocadiscos simulado en el navegador (2,6×).

02 · Noticias verificadas

Qué pasó, con qué fuente

✔︎ confirmada: fuente primaria más un medio independiente. ◐ parcial: solo una de las dos. Lo que no se pudo verificar va al final, en observación.

✔︎El directorio de Nvidia investiga si Jensen Huang fue blanco de espionaje extranjero

Comunicado del 8/11 · relevancia 4/5

El directorio de Nvidia anunció que un comité de directores independientes, con abogados externos, investiga los informes de que su director ejecutivo fue blanco de una operación de inteligencia extranjera. Dice que no tiene motivos para creer que se haya comprometido la seguridad nacional ni secretos de la empresa, que Huang apoya la revisión y que confía en él. Según TechCrunch, que retoma a Bloomberg, Huang admitió en un mensaje interno una relación extramatrimonial con Alice Huang, la ejecutiva de Megaspeed que un memo de inteligencia de EE.UU. señala como reclutada por el Ministerio de Seguridad del Estado chino (edición 29). El profesor Jeffrey Sonnenfeld, de Yale, estimó en TechCrunch que el puesto de Huang está en juego "más o menos 50 y 50"; es una opinión.

Confirmada: comunicado del directorio de Nvidia (leído) y TechCrunch (leída); Data Center Dynamics (no leída) lo retoma. El comunicado no menciona la relación ni da plazos. No hay respuesta de Megaspeed ni de China en lo revisado.

✔︎Un modelo interno de Anthropic encuentra una prueba de la conjetura de Aaronson y Ambainis

PSI, 6/11; Scott Aaronson, 8/11 · relevancia 4/5

Physical Superintelligence (PSI), una startup de EE.UU., publicó una prueba de la conjetura de Aaronson y Ambainis, un problema abierto desde hace casi dos décadas sobre cuánta ventaja puede sacar una computadora cuántica en preguntas de sí o no con datos al azar: la respuesta es que la ventaja es como mucho polinómica, no exponencial. La encontró el sistema de investigación de PSI corriendo un modelo de Anthropic que no es público; el verificador Lean aceptó la prueba al tercer día y otra vez después de dos mejoras. Scott Aaronson, uno de los autores de la conjetura, escribió que la cree correcta por el certificado de Lean y porque la revisaron investigadores de Stanford, aunque él todavía no la entiende del todo, y aclaró que no afecta al algoritmo de Shor ni a la simulación cuántica.

Confirmada: página de PSI (leída), blog de Scott Aaronson (leído) y The Quantum Insider (no leída). Un responsable de PSI revisó el texto y responde por su corrección; no se sabe cuánto aportó el sistema de PSI frente al modelo. La cola de candidatas menciona una aclaración del repositorio sobre un supuesto sin formalizar en uno de los teoremas: no lo pudimos confirmar. Es un resultado de verificación formal, no un paper con revisión de pares.

◐Science: fabricantes de vinchas y auriculares que leen ondas cerebrales entrenan IA con esos datos sin avisar

Difundido el 7/11 · relevancia 3/5

Una investigación de la revista Science sostiene que fabricantes de aparatos de consumo que registran la actividad eléctrica del cerebro (como vinchas para meditar o dormir) usan esos registros para entrenar modelos de IA sin decirlo en sus políticas de privacidad.

Parcial: es una investigación periodística de Science que no pudimos leer (el sitio no respondió); no encontramos un medio que la confirme por su cuenta ni respuestas de las empresas. No damos nombres ni cifras hasta leerla.

◎ En observación (no verificado)

03 · Argentina y América Latina

Sin novedades verificadas en la región

Ningún post regional superó su umbral en la ventana.

Argentina

Sin novedades verificadas en la ventana.

Sin fuente propia revisada: Clarín, El Destape e Impacto Castex vuelven sobre Stargate Argentina a un año del anuncio, sin obra ni contrato y con OpenAI como posible compradora de capacidad (lo mismo que Chequeado informó el 10/10 y que figuró en las ediciones 13 y 25); Infobae dice que las elecciones de EE.UU. reavivaron el interés por centros de datos en la Patagonia; Noticias Argentinas cuenta que el papa mencionó la inteligencia artificial entre sus mensajes de la visita, pero no leímos el discurso; y La Gaceta publica una columna sobre los centros de datos.

América Latina

Sin novedades verificadas en la ventana.

Sin fuente propia revisada: Bloomberg Línea y El Ecosistema Startup, que según Deutsche Bank Chile, Perú y México captan más el dividendo de la IA; Clarín, que la IA acelera los robos de datos en la región; La Hora, sobre 380 millones de ataques en Ecuador; El Observador, sobre una ley uruguaya para acompañar la IA en las escuelas (no encontramos el texto); y Diario Constitucional, una columna sobre la ley chilena.

Seguimiento legislativo

PaísProyecto o normaEtapaÚltimo movimiento
ArgentinaSúper RIGI (incluye IA y data centers)Media sanción; en comisiones del SenadoSin dictamen desde el 2/9. Nada nuevo en las fuentes de la ventana.
ArgentinaRIIR (inversiones desde US$12 M)Media sanción del Senado; pasa a Diputados29/10: aprobado 60 a 2. No menciona IA. Sin novedades en la ventana.
Argentina (CABA)Ley de Educación Digital IntegralAprobada, según mediosTexto oficial no revisado. Sin novedades en la ventana.
BrasilPL 2338/2023Comisión especial de DiputadosSin fecha de votación. Sin novedades en la ventana.
ChileLey de IA (boletín 15869-19)Senado, segundo trámiteIndicaciones hasta el 4/12. Sin novedades en la ventana.
ChileAgentes de IA en la ley de ciberseguridad (boletín 18.820-19)Recién presentadoSin novedades en la ventana.
ColombiaProyecto de IA en saludSenadoSin votación confirmada. Sin novedades en la ventana.
UruguayIA en la educaciónSin confirmar8/11: El Observador habla de una ley para acompañar la IA en las aulas; no encontramos el texto ni su número.

04 · IA en los negocios en Argentina

Sin casos nuevos verificados

Sin casos nuevos verificados en la ventana. Para el mapa de base, ver la edición 1.

Sin fuente propia revisada: Bloomberg Línea y varios medios replican que la IA podría sumar US$5.000 millones al PBI argentino según un experto, sin estudio identificado (dato de una persona, no medición independiente; distinto del estudio de la Universidad de San Andrés de la edición 22); Noticias Argentinas y El Norte dicen que más empresas amplían sus equipos de tecnología por la IA, sin encuesta citada; iProfesional explica cómo funciona Floe, la herramienta para mejorar la presencia de marcas en las respuestas de la IA (datos de la empresa); y Forbes Argentina repasa un experimento laboral de Microsoft.

Lo que salió mal: nada nuevo verificado en la ventana.

05 · Recursos multimedia

Para ver y escuchar

06 · Bibliografía

Para leer

TipoTítuloDeFechaPor qué leerlo
InvestigaciónA proof of the Aaronson-Ambainis conjecturePhysical Superintelligence06/11La prueba, la formalización en Lean y quién revisó qué (ver Noticias). Prioridad alta.
BlogPost de Scott Aaronson sobre la pruebaScott Aaronson08/11Qué significa el resultado y qué no. Prioridad alta.
EnsayoThree half-baked research ideasOwain Evans, en LessWrong08/11Ideas de investigación en seguridad de IA que su equipo no está siguiendo. Prioridad media.
EnsayoNotes on take-off speeds and RSIAlignment Forum08/11Notas para cursos sobre la velocidad del despegue y la automejora recursiva. Prioridad media.
EnsayoHow to run better research with agent fleetsLessWrong08/11Cómo usar flotas de agentes para correr experimentos de seguridad. Prioridad media.
EnsayoNear HorizonsLessWrong08/11Dos marcos y sus tensiones dentro del campo de la seguridad de IA. Prioridad baja.
BlogWhat should we teach our (undergraduate) students?Jana Gevertz y Steffen Marcus, en el blog de Terence Tao08/11Qué enseñar en la carrera de matemática con la IA a mano. Prioridad media.
PaperAI as Shared Business Infrastructure: Firm Growth and the Distribution of GainsNBER (Barwick y otros)nuevoCómo se reparten las ganancias cuando muchas empresas usan la misma IA. Prioridad media.
PaperTaskNet: Building Occupational Task Inventories from Worker Interviews at ScaleNBER (Brynjolfsson, Yang y otros)nuevoInventarios de tareas por ocupación armados con entrevistas a trabajadores; base para medir exposición a la IA. Prioridad media.
BlogHide your slop PR descriptions behind details/summarySimon Willison09/11Una práctica para que las descripciones largas que escriben los agentes en un pull request no tapen lo importante. Prioridad baja.
EnsayoI'm not convinced the AI bubble existsMatteo Raso08/11Un argumento contra la idea de la burbuja; opinión. Prioridad baja.
EnsayoHow I Fight AI Brain FrySergey Kuhne08/11El cansancio de trabajar todo el día con asistentes de IA y cómo manejarlo. Prioridad baja.

07 · Hardware y entrenamiento local

La familia vllm-d3 en GGUF y la discusión de precios de placas

NovedadFuente¿Prueba independiente?MemoriaQué permite
GGUF de la familia vllm-d3 (d3, nano, lite, flash y edge)Hugging Face (ggml-org)Nosegún cuantización; tamaños sin confirmarCorrer esos modelos como LLM local con llama.cpp
GGUF de Qwen3.8-Flash-Next, actualizadoHugging Face (ggml-org)Nosegún cuantizaciónVersión oficial de llama.cpp
FLUX 3 Klein y LTX-2.5 en FP8Hugging Face (Unsloth)Nomenos memoria que en 16 bits (dato de Unsloth sin cifra)Generar imágenes y video en placas con menos VRAM
llama.cpp b12202 a b12213 (entre otros, multiplicación de matrices para MoE en OpenCL y pruebas en Ubuntu 26.04)llama.cpp (GitHub)Nono aplicaMejoras y arreglos en distintos chips

Sin pruebas propias en r/LocalLLaMA: un usuario compara una Intel Arc Pro B70 de 32 GB con una RTX 5090 en Qwen3.8-27B y dice obtener la mitad de velocidad de generación por la quinta parte del precio; otros cuentan que sube la demanda de RTX 5060 Ti de 16 GB para IA; una versión comprimida de Kimi-K3.1-Pro-Coder bajaría de 1,77 TB a 775 GB (dato del autor); Tencent publicó una variante de Qwen3.8-27B; alguien corrió Qwen3.5-0.8B escrito en ensamblador; y Hugging Face daría dos espacios ZeroGPU a las cuentas gratuitas. Otro usuario dice que Qwen3.8-Flash-Next intentó acceder a una dirección de Alibaba, como en el caso que analizó Cohere en la edición 17.

08 · Acciones aplicables

Qué hacer con esto

09 · Control de calidad

Cambios y pendientes del monitoreo

10 · Glosario

Palabras de esta edición

Cada edición explica unos pocos términos que aparecen en ella, una sola vez. Todos juntos están en el glosario.