¿Puede la IA extinguir a la humanidad? En serio?

Hola, querido seguidor del newsletter.
Estas dos semanas pasó algo que no había visto nunca: los CEOs de las empresas que construyen la IA más poderosa del mundo pidieron, en público, que alguien los frene.
Los mismos que te venden el modelo que usas todos los días.
¿Miedo real o jugada de negocio? Depende de a quién le preguntes, y las respuestas desde Washington y Beijing no podrían ser más distintas.
¿Deberías estar asustado de que la humanidad se extinga por la Inteligencia Artificial? Absolutamente no.
Además, te cuento por qué me voy a un congreso médico en México. (????)
Sin más que agregar, a lo que vinimos.
Ernesto
Los que construyen la IA piden que los frenen
Dario Amodei (Anthropic) publicó un ensayo pidiendo bajar la velocidad de la IA de frontera, ya. Su argumento: en seis meses podríamos tener enjambres de agentes descontrolados dando vueltas por internet.
Lo sorprendente fue quién le dio la razón. Sam Altman (OpenAI, archienemigo de Amodei) dijo que hay que ponerle ritmo a la frontera, y hasta anunció que OpenAI no sale a bolsa este año. Demis Hassabis (Google DeepMind) dijo que el ensayo apunta en la dirección correcta. Y Elon Musk (SpaceX, archienemigo de Altman), que nunca se había sumado a estos llamados, escribió "Dario tiene razón".
¿Por qué piden que otro los frene? Porque ninguno puede frenar solo sin que el de al lado lo pase. Jakub Pachocki (OpenAI) lo admitió: nadie ha resuelto cómo controlar estos modelos lo suficiente como para seguir escalando a toda velocidad.
Pero no todos compran. En Washington ya se discute un organismo con poder para inspeccionar y detener modelos peligrosos, pero Trump dice que las autoridades actuales (él) bastan y que frenar solo ayuda a China. Jensen Huang (Nvidia) y Mark Zuckerberg (Meta) creen que el mercado se encarga: el que lance algo peligroso lo va a pagar caro.
Y hay sospechas. Andrew Ferguson (FTC) desconfía de que los mismos laboratorios pidan permiso para coordinarse entre ellos: eso huele a cerrarle la puerta a la competencia. David Sacks (ex funcionario de Trump) fue más directo: si no frenan por su cuenta, todo esto era una movida para capturar al regulador.
China dice que es un negocio disfrazado de miedo. Sus modelos son más baratos, casi igual de buenos, y eso le complica los números a la IA estadounidense.
¿Y a ti qué te importa? Las herramientas que usas todos los días, cuánto cuestan y qué tan rápido mejoran, se están decidiendo en esta pelea.
Por mientras, ¿Hay que creerle a los “doom trolls”? Desde mi punto de vista, lo más sensato es lo que dice Arthur Mensch, CEO de Mistral, otro laboratorio frontera: La IA es software. Se puede controlar.

En chileno, no me hueí poh
- AI's most powerful CEOs hit the brakes
- Huang and Zuckerberg back AI safety without a slowdown: Why Big Tech is betting on market forces to police AI
- Amazon enters AI safety fray, calls for "rigorous testing," safeguards
- Trump dismisses AI safety alarm, says US already has tools to police industry
- FTC chair suspicious of calls for AI antitrust exemptions
- 'Dr Frankenstein' alarm cries of US' AI elites a self-serving bid for profit: China Daily editorial
Qué está pasando en Marketing
Ahora McDonald's también quiere ser retail media. Lanzó McDonald's Media Network para ofrecerles a otras marcas avisos en su app, kioscos y menu boards, usando la data de sus 70 millones de clientes diarios. La meta: US$1.000 millones en ingresos publicitarios. Link
Así está la discusión sobre cómo deberían ser los contratos de agencia en la era de la IA: Por horas, por entregable o como SaaS: La mayoría de las agencias solo parcha sus contratos con anexos sobre uso de IA, datos y propiedad intelectual, y la industria todavía no se pone de acuerdo en cómo cobrar. ¿Ya revisaste el tuyo? Link
Google le metió IA agéntica a Meridian, su marketing mix model gratis y open source. Ahora revisa la calidad de tus datos, detecta errores y te guía mientras armas el modelo. Y mide mejor lo que siempre costó atribuir: la TV y la vía pública. Link
En qué están las herramientas de Inteligencia Artificial
Anthropic lanzó Claude Opus 5.5: su Opus más capaz para el trabajo diario, y cerca de 40% más barato que Opus 5. Mejoró en escritura y análisis, y en el webinar de lanzamiento lo muestran armando análisis de datos, documentos y presentaciones. Link
Claude ya no solo te responde en el chat: ahora escribe documentos contigo. Con Claude Docs le pides que redacte secciones, comente y revise documentos de trabajo en un espacio compartido. A Microsoft no debe hacerle nada de gracia. Link
Claude Cowork y el chat ahora son un solo Claude. Le haces una pregunta rápida o le encargas un informe para el mediodía, y sigue trabajando aunque cierres el computador. Disponible en los planes Pro y Max. Link
Meta lanzó Muse, su agente personal, y ya lo puedes llevar colgando del llavero. Muse corre en una máquina virtual en la nube de Meta, con navegador propio y planes gratis, de US$20 y de US$100 al mes. En Connect 2026 presentaron Muse Charm, un dispositivo del tamaño de un Apple Watch para hablarle sin sacar el celular. Calma eso si que nada de lo que se presentó está disponible en Latam todavía. Link Link
Hay un modelo de IA que no genera texto: solo evalúa y decide. Jev, de TypeSafe AI, recibe datos y preguntas, y devuelve una elección, un puntaje o un sí/no, rápido y barato. Jev puede ser 31x más barato y 5.4x rápido que Claude Haiku, pero solo para decisiones estructuradas: clasificar, rutear, puntuar, filtrar, verificar o elegir entre opciones. ¿Se viene una nueva ola de modelos de este tipo que hagan temblar a los LLM? Link
Desde la Caja de Herramientas
McKinsey: el 89% de las empresas ya usa IA, pero apenas el 6% le está sacando plata de verdad. El informe The State of AI in 2026 muestra que el 44% ya la escala a nivel empresa y el 60% va a invertir más, pero solo el 37% ve algún impacto en el EBIT. Link
El rincón de Ernesto
Qué herramienta estoy usando
Más que 1 herramienta, te quiero contar del stack que usé con Claude Code para rehacer mi sitio personal www.ernestojara.com en 1 fin de semana:
- Cloudflare para el dominio
- Vercel para el back end
- Resend para el envío del formulario
- Github para la documentación y control de versiones
- Nano Banana para las fotos
- Figma para las imágenes
Costo de hacerlo: Tokens. Costo de mantenerlo: $0
Qué he estado posteando
Porque los médicos también necesitan marketing+IA: Me voy a México 🇲🇽 Link
Resulta que los médicos también tienen que ser marketeros: Tienen una voz, marca personal, estrategia de contenido, tienen que emprender y más encima quieren saber de Inteligencia Artificial. Se toparon con el cuate correcto.
Avísame si vas a estar en CDMX entre el 8 y 13 de octubre.

Tú también deberías hacer esto: Le pregunté a ChatGPT (sin usar mi cuenta) quién soy y si me pediría una capacitación de IA. CHAN! Link

El termómetro de las tendencias
Una vez al mes te mandaré en qué están las tendencias del marketing para que sepas en qué debes enfocarte y en qué no perder tu tiempo.
- 🚀 Agentes autónomos de IA
- 🚀 Comercio conversacional y “agentic commerce” en modelos de IA
- ⬆️ Gobernanza de IA frontera: desaceleración y safety
- ⬆️ Optimización para motores generativos: GEO, AI Search y AEO
- ⬆️ Adopción de la IA en empresas
- ⬆️ Regulación y ética de la IA
- ⬆️ Profesionalización de la Economía de creadores
- ➡️ Retail media
Eso es todo por esta edición.
No te olvides de seguirme para recibir los contenidos que posteo todos los días en mi perfil de LinkedIn.
Nos leemos en 2 semanas.

Ernesto Jara
Fundador
Astro Marketing Academy
ernesto@astromarketing.academy

Respuestas