El asunto Anthropic

Anthropic publica Fable 5 el martes 9 de junio, la semana pasada. Hacemos las pruebas habituales y enseguida nos damos cuenta de que es un salto cualitativo respecto al modelo anterior, el Opus 4.8, que apenas hacía quince días que estaba disponible. Lo probamos con un proyecto real: la programación de un sistema complejo de gestión de información. Le damos un solo apunte, lo ponemos en modo bucle y que itere hasta que encuentre la solución. En una hora y pico todo programado. Lo revisamos, miramos la calidad del código, agujeros de seguridad, funcionalidades. Impecable. Sin duda es el mejor modelo que hemos probado nunca.

Fable, de hecho, no es un modelo del todo nuevo. Es la versión que Anthropic abre al público de su modelo más potente, Mythos. Este modelo ya hizo mucho ruido incluso antes de salir. Según Anthropic, el modelo es tan potente que pone en riesgo toda la infraestructura de seguridad de internet. Por eso, solo dieron acceso a las grandes tecnológicas, bancos, empresas de ciberseguridad y agencias estatales de seguridad. Se especuló mucho sobre si era para tanto o si era todo un truco publicitario pocas semanas antes de salir a bolsa. Sea como sea, Mythos es el no-lanzamiento comercial de más éxito de la historia.

"Mythos es el no-lanzamiento comercial de más éxito de la historia"

He oído a ingenieros que tienen acceso y he visto algunas métricas; y las cifras que la misma Anthropic publicó dan vértigo. En el test de reproducción de vulnerabilidades CyberGym, el Mythos acierta el 83%, cuando el mejor modelo de hace unos meses no llegaba al 67%. Soltado sobre código abierto, encontró miles de vulnerabilidades inéditas, muchas de críticas, entre ellas un agujero de hace 27 años en OpenBSD que permitía hacer caer cualquier máquina a distancia. No es casual que Anthropic lo haya empaquetado bajo el proyecto Glasswing, vendido como el escudo para blindar el software crítico del mundo: la misma herramienta que encuentra los agujeros para taparlos también los encuentra para abrirlos.

Costaría creer que todo fuera marketing y que todo el mundo se hubiera confabulado para aguantar un relato mítico. De hecho, Fable, a pesar de las salvaguardas que no tiene Mythos, es aún más potente. Parece que Anthropic acierta en esta aplicación comercial del principio de prudencia. Pero, como todo mito, la historia de Anthropic contiene trazas de verdad. Seguramente no es toda la verdad.

Los LLM consumen muchos recursos de computación, o sea de energía y, por lo tanto, de agua. Y cuanto más potente es el modelo, más. Es obvio que si de un día para otro todos los usuarios que ahora utilizan Claude gratis o que pagamos la cuota mínima de veinte euros empezamos a utilizar Mythos, Anthropic tiene un problema gordo que crece exponencialmente con los usuarios. Es así como Anthropic hizo de la necesidad campaña de marketing. Que semanas después abriera Fable —el Mythos domesticado— a todo el mundo es la prueba. Que fuera después de cerrar un acuerdo con SpaceX —del infame Musk— que le garantizaba capacidad de cálculo —todo un centro de datos en Memphis— es un detalle menor.

Pero oye, si te venden un Ferrari a precio de 600, no preguntes demasiado. Entra la Cenicienta. Resulta que Fable 5 era temporal: la letra pequeña decía que, cuando se acabara el período de prueba, tendrías que pagar un extra a la suscripción. De hecho, en los planes de pago sale gratis solo hasta el 22 de junio; después, a pagar aparte. Si os suena a camello que regala droga a la salida de un colegio para cobrárosla a precio de oro cuando estéis enganchados, os pasa como a mí.

"Si os suena a camello que regala droga a la salida de un colegio para cobrárosla a precio de oro cuando estéis enganchados, os pasa como a mí"

Y aún más feo. Aquella “capa de seguridad” que Anthropic impuso a Mythos para convertirlo en Fable, en realidad, era para ellos: si detectan que haces cosas que ellos consideran feas —fabricar armas biológicas, lanzar ciberataques o destilar el modelo para hacer uno tuyo— te derivan hacia el Opus 4.8, el modelo inmediatamente por debajo de Fable en capacidades. A veces, incluso, sin decírtelo y ralentizando las respuestas; es decir, saboteándote. Armas biológicas y ciberataques aparte, imagínate que estás entrenando tu propio modelo y a Fable le parece que esto puede hacer la competencia a Anthropic: tu modelo no acaba de funcionar y tú nunca sabrás que te han saboteado. Ahora, a final de mes te pasan la cuota como si nada. Es como si Microsoft te ralentizara Windows al ver que programas un procesador de textos mejor que Word (cosa que puede hacer cualquier niño de la clase de los Delfines). Todo muy extraño.

¿Muy basto, para tan poca zanahoria? No del todo: la zanahoria es orgánica, sabrosa y bien madura. Y bastante barata. ¿Cómo se gana la vida el agricultor? Pues no se la gana; o se la gana mientras dure la subvención. Lo que pagamos por la IA no son precios de mercado, sino precios de captación. El mismo Sam Altman ha admitido que OpenAI pierde dinero con la suscripción de 200 dólares al mes porque “la gente lo usa mucho más de lo que esperábamos”; se calcula que este año se dejará unos 14.000 millones de dólares. El sector entero quema capital de riesgo para engancharnos antes de que llegue el bastón. Es, exactamente, la fase de alfombra roja de la enshittification —la “mierdificación”— que describió Cory Doctorow: primero te tratan de maravilla, luego te aprietan y, al final, te exprimen. Y lo pueden hacer porque el coste de salir de la plataforma es superior al de permanecer en ella.

Si quieres saber más

 

   

Josep M. Ganyet-Google Zero

Pero lo más feo aún tenía que llegar, y llegó de la mano del más feo: Trump. El pasado viernes, una orden de Estados Unidos prohibía el acceso a Fable. No solo a los países extranjeros, sino a cualquier persona que no tenga pasaporte americano, incluso a los programadores de Anthropic que no sean norteamericanos. Y como mostrar el pasaporte a Claude no parece buena idea, la empresa se vio obligada a cerrar Fable para todo el mundo. Qué gracia, gastarte una millonada entrenando tu modelo más capaz que luego no puedes vender.

El motivo oficial es que alguien había encontrado la manera de saltarse esas salvaguardas y llegar a las capacidades cibercriminales del Mythos de abajo. El detalle jugoso es cómo lo hacía: pidiendo al modelo que leyera un programa y arreglara los errores. Es decir, exactamente aquello para lo que venden Fable. Anthropic se defiende diciendo que no es nada que no se pueda hacer con modelos comerciales menos capaces, y debe tener razón. Sea como sea, en la decisión debe haber una parte de venganza: hace meses que la compañía se niega a que sus modelos se utilicen para hacer seguimiento de personas y para hacer la guerra, una negativa que ya le costó un contrato millonario y que el gobierno designara a Anthropic como riesgo para la cadena de seguridad.

Circula un meme que lo explica mejor que ningún discurso: una tira de Randall Munroe, en xkcd, que dibuja toda la infraestructura digital del mundo —sistemas financieros, críticos, de seguridad— aguantándose en equilibrio sobre una pieza minúscula de software libre que lleva años manteniendo, sin que nadie se lo agradezca, un voluntario anónimo de Nebraska. Da risa y da miedo a la vez, porque es así.

Y parece que estamos construyendo nuestro futuro sobre esto. Lo peor, sin embargo, es que este futuro ya no dependerá de un voluntario tras una pantalla rodeado de bolsas de Cheetos en unos bajos, sino del Cheeto en jefe de la Casa Blanca, cosa que lo hace todo mucho más peligroso. Necesitamos modelos públicos y de calidad.