No, el mundo no se va a acabar con la IA

Un tío que que estuvo trabajando tres años en Anthropic y OpenAI dimite y escribe un tuit diciendo que la IA podría acabar con nuestras vidas y va la FOX y lo lleva a la tele.

El tuit tiene millones de visitas. Me lo manda un amigo tornero fresador. Mi tío el pintor. Lo estaban comentando en el autobús.

"No sabemos cómo controlar la IA".

"No tenemos otra opción que cooperar internacionalmente".

El tío se acaba de crear la cuenta de twitter este año y es su único tuit. Ahora tiene 276.900 seguidores o sea que haga lo que haga ya tiene la atención.

Mi amigo me comentó que seguro que le pagaban poco y que por eso se ha ido. Al contrario. Estas startups suelen pagar, además de con un sueldo, con participaciones en la empresa. Y ese es el caso.

En una entrevista en la CBS, la entrevistadora le pregunta:

"Supongo que tenías una buena participación en Anthropic... Te habrías hecho muy rico después de su IPO. ¿Por qué irte?"

A la pregunta responde hablando de la inmoralidad de esta carrera y tal. Parece un chaval que ha rechazado la posibilidad de ser rico por su honor. Pero la realidad es que estuvo cuatro meses en Anthropic. Al irse perdía el derecho a esa participación. En OpenAI, en cambio, estuvo tres años.

Según contó a Axios, conserva las participaciones de OpenAI.

Coxon estuvo en Anthropic solo cuatro meses, y los empleados que han estado ahí menos de seis meses no consolidan sus acciones, dijo. Aún tiene participaciones en su antiguo empleador, OpenAI.

Cuando OpenAI salga a bolsa y valga un billón o lo que quiera que esperen que valga gracias al hype, Coxon se beneficiará de una de las malvadas empresas de las que huye.

Que no digo que esté mal. Pero vamos cortando el relato que estaba tratando de crear la periodista de la CBS.

Los fervorosos creyentes del apocalipsis de la IA, los conocidos como AI doomers, no dejan de ser promotores de la inteligencia artificial. A fin de cuentas, eso es lo que interesa a estas grandes compañías: que creamos que están creando una tecnología que prácticamente hace magia, en lugar de un software cuyos números no estamos seguros de que vayan a cuadrar.

Si hasta Elon Musk se lo ha tomado a cachondeo.

Puedes apoyar este proyecto y acceder a contenido exclusivo como este suscribiéndote al plan PRO.

más info

Poco antes de todo este revuelo OpenAI sacó su nuevo modelo, GPT-6 Astra, para algunos, AGI.

Lo he estado usando intensivamente durante unos días. Me ha sorprendido gratamente. No es ironía.

Noto mejora con respecto al modelo Opus de Anthropic, que es el que más utilizo, aunque la comparación debería ser con Fable. El problema es que, al menos para mi uso, no he terminado de ver esa gran mejora de Fable respecto a Opus (parece incluso que han degradado Fable).

He puesto a Astra a buscar incorrecciones en algunos guiones con una skill de fact checking que desarrollé (básicamente unas instrucciones donde están listados los principales errores que hemos ido cometiendo en los guiones estos años y cómo identificarlos). En este caso me ha parecido que la mejora grande está en cómo navega por internet. Busca webs y fuentes que podrían ser difíciles de encontrar, interpreta la información bastante bien, y en algún caso (cuando se le ha insistido), hasta ha reproducido un vídeo de Youtube para buscar una cita e indicar el minutaje.

Eso tiene su mérito, aunque no estoy seguro de si es cosa del modelo o de las mejoras de Codex.

Pasado el deslumbramiento inicial y una vez analizado el resultado, Astra sigue llenándome los guiones de falsos positivos. Aunque los falsos positivos no son un problema para mí, porque se rechazan fácilmente. Los errores los vemos. El peligro está en lo que no vemos. Podríamos llamarlos falsos negativos, aunque no son exactamente eso porque ni siquiera están identificados. Todavía no tengo sistema para cuantificar estos y valorarlos.

Al final, hacer el factchecking + reescritura de uno de los vídeos que saldrá la semana que viene me ha llevado tres días. Es lo que tiene el hecho de tener que repasar manualmente todo el trabajo de la IA. Se reduce el tiempo de búsqueda, pero si quieres hacer un buen trabajo tienes que revisar manualmente el resultado, y este tiempo no varía si usas Opus o Astra, independientemente de que este segundo modelo sea el doble de caro de usar.

Y si ya se hablaba de que una suscripción de 200 $ de Claude permitían gastar hasta el equivalente a 2.000 $ de peticiones a la API, no sé si a nivel estratégico es buena idea depender de un modelo el doble de caro para tu negocio.

Más aún teniendo en cuenta que cuando salió Fable, el equivalente a Astra de Anthropic, nos dijeron que ni siquiera lo íbamos a tener en las suscripciones. Esto es, que habría que pagar por uso. Sin embargo, por algún motivo que solo podemos especular (como que por ese precio la gente lo usaría para cosas muy puntuales), alargaron el tiempo de Fable en las suscripciones hasta un periodo indeterminado, y no solo eso, sino que hemos estado con límites extra hasta el 13 de septiembre.

OpenAI también está regalando Astra. Con la suscripción de 20 $ duré cerca de una hora hasta tocar el límite, pero el de 100 $ se está estirando bien.

Nos están subvencionando estos modelos, que exigen más recursos y cómputo (que el precio por API sea el doble no significa que el cómputo también lo sea, porque depende del tipo de petición, del caché puede abaratar costes, etc), lo que hará que usemos más estos modelos, y por lo tanto crearemos más demanda de centros de datos, y podrán decir que necesitamos construir más centros de datos, y en algún punto de este ciclo de repente todo se vuelve rentable.

A lo mejor porque de repente a todo el mundo le parece lógico que merece la pena gastar 2.000 pavos al mes por cabeza en IA. O a lo mejor porque de repente los modelos son tan eficientes que pueden correr en una raspberry PI alimentado con un hamster corriendo en una rueda.

Aunque, si ese fuera el caso... ¿no ganarían los chinos?

Cuando dicen que tienen que frenar mienten y solo están manejando el relato

El sábado Dario Amodei, CEO de Anthropic, publicó una disertación uniéndose a los AI Doomers y diciendo que la IA tiene que frenar un poquito. Dice que en un plazo de 6 a 12 meses enjambres de agentes podrían tomar el control de internet mediante una botnet persistente.

Este tío siempre habla de 6 a 12 meses.

La fecha exacta en la que dijo que la IA haría todo el trabajo de un desarrollador.

I think, I don't know, we might be six to 12 months away from when the model is doing most, maybe all of what SWEs [Software Engineers] do end to end. Foro Económico Mundial

La disertación de Amodei coincide también con la noticia de que Anthropic ha bloqueado intentos de usar Claude para armas biológicas.

En el blog de Anthropic podemos leer cinco casos en los que han detectado que estaban usando sus modelos para crear armas biológicas (o algo de ese estilo). Los casos son vagos. Son historias anónimas del tipo "un investigador" que mantuvo miles de intercambios con Claude para aumentar el peligro pandémico de la gripe aviar. Gracias a los filtros le bloquearon los modelos potentes pero pudo utilizar Sonnet y Haiku.

También habla de un instituto militar que buscaba aumentar ciertas capacidades peligrosas del virus Chukungunya (uno de estos virus que te pasan los mosquitos).

Pero la pregunta es: ¿qué instituto militar?

No lo han dicho. A lo mejor es un instituto militar del sudeste asiático o uno con nombre inspirado en el universo Tolkien.

Cuando alguien como Dario Amodei escribe que está preocupado y que está barajando la posibilidad de hablar con los competidores para echar el freno y decidir cuál es la mejor forma de seguir desarrollando esta tecnología, está vacilando. Es la única forma de entenderlo. Básicamente porque no puede por estos motivos:

1. Anthropic planea salir a bolsa pronto (no hay fecha exacta pero ya han presentado un borrador de su S-1 confidencialmente).
2. Se estima que los modelos chinos están unos seis o siete meses atrasados con respecto a los de EEUU (son estimaciones que hay que coger con pinzas).
3. Lo último que necesitan es que justo antes de salir a bolsa salga un modelo Chino de código abierto comparable a un Opus o un Fable.

¿Alguien se cree realmente que justo antes de salir a bolsa van a ralentizar (slow the pace, dice Amodei) el desarrollo de sus modelos? ¿Para que les pillen los chinos?

Lo que pasa es que en esta temporada de AI Shore OpenAI ha conseguido dos wins: Astra y la resolución de Navier-Stoke. La gente se está pasando a Codex (yo mismo daba por muerto a OpenAI y he vuelto a pagar la suscripción para probar), y lo último que le conviene a Anthropic es quedarse callado. No se lo puede permitir. Tiene que tener sus minutos de AI Shore y por eso lo de las armas biológicas, la entrada de Amodei, y una entrevista en la CNN a justo después de publicar el ensayo.

El que se queda callado pierde.

Es mentira que OpenAI vaya a retrasar su IPO por motivos de seguridad

Sam Altman, AKA Scam Altman, AKA el rarito de OpenAI, ha dicho ahora que tal y como están las cosas en materia de seguridad, no es momento para salir a bolsa y que lo van a retrasar.

"Debido a todo lo que está sucediendo con la seguridad, ahora mismo sería un mal momento para salir a bolsa" Sam Altman

El País, en un acto de alarmismo clickbaitero, publicó ayer 13 de septiembre: CÓDIGO ROJO OPENAI SUSPENDE SALIDA A BOLSA.

Entiendo que estos días se ha hablado mucho y que puede llegar a impactar el mensaje, pero la cronología de este relato da una perspectiva muy diferente.

Diciembre 2025: Según Financial Times se rumorea IPO de OpenAI, Anthropic y SpaceX en 2026.

Abril de 2026: Tensiones entre Altman y la directora financiera de OpenAI, Sarah Friar: Altman quería salir en el cuarto trimestre de 2026, Friar dudaba de que OpenAI estuviera lista para cumplir las exigencias de información financiera de una cotizada en 2026. The information.

Agosto de 2026: Sarah Friar anuncia a los empleados en una reunión que OpenAI saldrá a bolsa en 2027. Según empledos que hablaron de forma anónima con CNBC, Friar dijo que "podría ser antes", pero que "están corriendo su propia carrera".

Y ahora de repente en septiembre de 2026 se viraliza un chaval diciendo que estamos en peligro y sale Sam Altman y dice: ¿sabes qué? Es verdad. Esto es muy peligroso. Por eso no vamos a salir a bolsa. Cuando lleva todo el año discutiendo con la que le lleva las cuentas y le dice claramente que no pueden salir todavía. Y la prensa y todo el mundo se lo traga.

REPITO: SI OPENAI NO SALE A BOLSA AHORA, ES MÁS PROBABLE QUE SEA PORQUE NO PUEDE QUE PORQUE LE PREOCUPA LA SEGURIDAD.

Y lo más curioso es que, mientras tanto, Amodei, que ha iniciado todo el teatro de que deben frenar y meter regulación y auditar y todo eso, se prepara para asaltar el Nasdaq como lo hizo SpaceX en junio.

¿Mi opinión? Que Sam Altman ha intentado tirársela a Anthropic. En plan: bro, tienes razón, esto es muy peligroso, tanto que eso que estás a punto de hacer, salir a bolsa, no es buena idea y por eso yo no lo voy a hacer. Tú verás.

Sobre destruir los modelos de código abierto

He estado leyendo teorías que dicen que es muy raro que Altman, Amodei y Musk se hayan puesto de repente de acuerdo y que solo puede ser dos cosas:

1- Hay un agente descontrolado que no pueden parar y se están anticipando (era una buena idea para una novela de ciencia ficción, hasta que hicieron 50 con el mismo trama).

2- Quieren conseguir una regulación que acabe con la competencia China de los modelos abiertos.

La primera la vamos a obviar por motivos evidentes. La segunda tiene más o menos sentido.

Conviene recordar, siempre que leemos noticias sobre IA, que hay lobbys metiendo dinero para empujar diferentes agendas. Se ha descubierto que a algunos influencers de Estados Unidos les estaba pagando una organización que tenía detrás a la super PAC Leading the Future, financiado por miembros de tecnológicas como OpenAI y Palantir.

En este caso les pedían hacer vídeos sobre lo peligrosas que son las IAs chinas a cambio de 5.000 $ por pieza para TikTok. Tenían que decir cosas como esta:

"Acabo de enterarme de que China está intentando por todos los medios vencer a Estados Unidos en inteligencia artificial. Si lo consiguen, podría significar que China obtenga datos personales míos y de mis hijos, y se quede con puestos de trabajo que deberían estar aquí, en EE UU. ¡¡¡En la carrera por la innovación en IA, yo soy el equipo de EE UU!!!".

Hay gente de Palantir financiando la super PAC detrás de esto 🤣

Ironías aparte, me parece importante recordar que hay gente metiendo dinero en los mensajes que leemos todos los días en internet. Aunque no termino de entender que su plan sea prohibir los modelos de código abierto. ¿Cómo lo van a hacer? En todo caso podrán intentar prohibírselo a sus propios ciudadanos, y aún así, difícil me parecería. Es como tratar de prohibir la piratería.

Puede que prohiban a sus ciudadanos acceder a los servicios web de modelos chinos, pero será como tratar de poner puertas al mar. Como intentar cerrar ThePirateBay.

Acusaciones de plagio en la comunidad científica

Sea como fuere, es evidente que los científicos van a tratar de exprimir estos modelos para hacer su trabajo. Si es para el bien o para el mal es subjetivo. Depende de quién haga la pregunta y cuándo.

Desde luego la comunidad científica está disfrutando con estos modelos. El 8 de septiembre OpenAI anunció que había resuelto uno de estos problemas matemáticos que te dan un millón de dólares si lo consigues.

La solución la consiguieron con un grupo de agentes que usaban modelos nextgen mejores que Astra. Eso según el tuit de OpenAI.

La otra historia ya la habréis escuchado por ahí. En resumen: los matemáticos Tristan Buckmaster y Levent Alpöge estaban trabajando en el mismo problema, e iban muy avanzados. Usaban Codex (la herramienta de escritorio de OpenAI) para la investigación.

La cosa iba bien. De hecho estaban siguiendo una vía abierta por dos españoles: Diego Córdoba y Luis Martínez-Zoroa.

Entonces de repente OpenAI puso a trabajar a 10.000 agentes y gastó 15 millones de dólares en cómputo para solucionar varios problemas Navier-Stokes. Se adelantaron y ganaron la carrera.

(15 millones es la cifra basada en el precio de los tokens de Astra por API, pero en teoría usaron otro modelo más potente y el precio por API no es igual al coste real para OpenAI).

Buckmaster se quejó de que el enfoque de OpenAI había coincidido sospechosamente con el suyo. De aquí surgen las especulaciones negadas por OpenAI sobre si sus modelos se habrían alimentado de su estudio.

La cosa dio un giro turbio cuando, según Buckmaster, le propusieron escribir el artículo que presentaría el resultado de OpenAI, solo si dejaba a Alpöge fuera de la ecuación (sí, es un chiste matemático). Recordemos que Alpöge trabaja para el competidor, Anthropic.

Bien por Buckmaster que decidió conservar su honor.

El matemático Terence Tao escribió un artículo en su blog. Algunos entusiastas de la IA siempre lo han mencionado como un escéptico que terminó uniéndose a su bando, aunque creo que no lo han escuchado con atención.

En este caso, en su blog, lo primero que hizo fue hablar de las personas detrás de este descubrimiento. De Buckmaster y Alpöge, pero también mencionó a Córdoba y Zoroa. Unos días después firmó una carta junto con otros matemáticos.

En los últimos meses, los éxitos de la IA al resolver grandes problemas matemáticos han acaparado titulares incluso fuera de los círculos matemáticos. Pero resolver problemas es solo una herramienta y un indicador indirecto del avance hacia el objetivo principal: desarrollar comprensión conceptual y nuevas perspectivas. Olvidarlo en el ámbito de la IA puede hacer que la herramienta se vuelva contra ese objetivo. De hecho, la producción masiva y cada vez más rápida de enunciados «verdaderos o falsos» podría destruir un terreno fértil en lugar de dar vida a nuevas ideas.

Lo que dicen, traducido para la gente como yo, es decir, gente de letras, es que empresas como OpenAI o Anthropic están tratando de resolver problemas cuanto antes utilizando todo su poder de cómputo para conseguir hitos marketinianos, y temen que en el camino se puedan perder parte de la comprensión que se desarrolla en el proceso.

También se quejan de que la IA no les cita 😒

A menudo, estas soluciones se anuncian precipitadamente, sin dejar tiempo para redactar una exposición adecuada, identificar los nuevos métodos e ideas y citar los trabajos previos relevantes de otros autores. Como en todas las profesiones creativas, esto plantea graves cuestiones de atribución y plagio. Además, sin matemáticos dispuestos a desarrollar las ideas concebidas por la IA e integrarlas en el cuerpo de conocimiento de la disciplina, esas ideas nunca llegarían a cobrar plena vida y se perdería la crucial cadena humana de transmisión entre matemáticos.

Si os fijáis, el tuit de OpenAI no habla de matemáticos. No habla de trabajos, de enfoques, etc. Habla de su enjambre de agentes y de sus modelos nextgen.

Además, el paper de OpenAI ni siquiera citó a Diego Córdoba y Luis Martínez Zoroa. Solo después de la queja rectificaron y los incluyeron.

De eso se trata. De hacer anuncios. Publicidad.

Así lo veo yo. ¿Anthropic habla de armas biológicas? Publi. ¿OpenAI habla de robots asesinos? Schwartzeneger molaba en esa peli.

No lo digo para convenceros, eh.

Lo digo para que, si me conocéis, por favor, dejéis de mandarme estas noticias porque estoy hasta los barrabilak.