Escucha el artículo ahora…
Los temas estrella de este verano han sido, como ya va siendo habitual, el bochorno insoportable y la cantidad de incendios que han quemado nuestros bosques. Todo ello acompañado de la fiebre colectiva por el eclipse, que nos obligó a levantar la cabeza de la pantalla durante diez minutos para recordarnos que hay un universo más allá de nuestro móvil. Llegado septiembre, con el inicio del nuevo curso, tenemos relevo como tema estrella: la inteligencia artificial y su poder para acabar con la humanidad.
El pasado 9 de septiembre, Jacob Coxon, investigador sénior de Anthropic y anteriormente de OpenAI, publicaba un hilo en X anunciando su dimisión. En el comunicado, afirmaba que ninguna de estas dos empresas estaba actuando con responsabilidad y que las personas que están construyendo la IA creen que esta podría tener capacidad para extinguirnos antes de acabar la década. Coxon también señalaba la necesidad de plantear medidas de contención drásticas, como una prohibición temporal de mejorar las capacidades de los modelos para evitar una carrera global potencialmente peligrosa.
Poco más de una hora después, Evan Hubinger, Alignment Science lead de Anthropic, metía baza afirmando que lo que decía Coxon era correcto, hasta el punto de que personalmente estimaba en más de un 10% la probabilidad de que la IA pudiera llegar a matar a todos los humanos durante los próximos diez años. Al día siguiente, Anthropic publicaba su “informe de inteligencia sobre amenazas más detallado hasta ahora”, que concluía, entre otras cosas, que los modelos de IA ya se están incorporando a investigaciones científicas con potencial de doble uso, y que, ante la creciente dificultad de distinguir entre usos legítimos y maliciosos, los filtros de contenido por sí solos ya no son suficientes. Dos días después, el 12 de septiembre, Dario Amodei, consejero delegado de Anthropic, publicaba un ensayo titulado Debemos marcar el ritmo de la frontera (We Must Pace the Frontier), donde defendía ralentizar el desarrollo de la IA para dar tiempo a la investigación en seguridad de ir al ritmo de sus propias capacidades. La respuesta tampoco tardó: Sam Altman, de OpenAI, y Elon Musk, de xAI, le daban apoyo públicamente en cuestión de horas. Por un momento, parecía que los rivales de la carrera tecnológica se ponían de acuerdo y fumaban juntos la pipa de la paz y de la prudencia.
Que la inteligencia artificial comporta riesgos es evidente. En el ámbito de la ciberseguridad ya ha habido casos en que agentes de IA han pirateado sistemas sin ninguna intervención humana y que se han comportado de maneras que sus creadores no han previsto. Sin embargo, lo que es menos evidente es por qué esta advertencia por parte de los líderes de la IA llega ahora. Las mismas empresas que durante los últimos años han promovido la adopción masiva de la IA, porque les interesaba ampliar su uso y consumo, son ahora las que, de repente, subrayan el riesgo existencial y piden tiempo y prudencia, gestionados desde dentro del mismo sector. Dicho de otra manera, las compañías que explican que la tecnología que están desarrollando podría llegar a escaparse del control de sus creadores, son también las que reclaman tener un papel central a la hora de decidir cómo se debe controlar. ¿Están intentando convertir el relato del pánico en una fuente de legitimidad? ¿Están diciendo que, si el problema es tan extraordinario y tan técnico que puede llegar a poner en riesgo la supervivencia de la humanidad, quién mejor para gobernarlo que quienes conocen la tecnología desde dentro? Si solo quienes desarrollan esta tecnología tienen los conocimientos necesarios para entender sus riesgos, también pueden acabar presentándose como los únicos capacitados para decidir cómo gestionarlos. A esto... en palabras sencillas... se le llama consolidar el poder de un oligopolio.
Por otro lado, mientras el debate catastrofista se concentra en un hipotético escenario a diez años vista, los impactos que la IA ya tiene hoy en día quedan en un segundo plano. Para empezar, los centros de datos que hacen posible estos sistemas tienen una huella ambiental creciente. Según un estudio de la Universidad de las Naciones Unidas publicado el pasado junio, su consumo de electricidad podría alcanzar los 945 TWh anuales en 2030, es decir, casi el triple del consumo eléctrico anual conjunto de Pakistán, Bangladés y Nigeria, y su huella hídrica equivaldría a las necesidades domésticas básicas anuales de los 1.300 millones de habitantes del África subsahariana. Paralelamente, el último informe PISA, publicado por la OCDE el pasado 8 de septiembre, revela que los alumnos con mejores resultados tienden a ser precisamente los que menos IA utilizan. Al mismo tiempo, la IA generativa facilita nuevas formas de manipulación de la información y amplifica la creación y difusión de desinformación, según el Servicio de Investigación del Parlamento Europeo. Ninguno de estos efectos, pues, necesita un escenario de superinteligencia futura para ser relevante: ocurren con la tecnología que ya existe.
El consumo de electricidad de los centros de datos que hacen posible estos sistemas podría alcanzar los 945 TWh anuales en 2030, es decir, casi el triple del consumo eléctrico anual conjunto de Pakistán, Bangladés y Nigeria
Hay, todavía, una tercera lectura más prosaica que la del control regulatorio. Las valoraciones de estas empresas dependen, en gran parte, de las expectativas de que su ritmo de crecimiento se mantendrá. Se han invertido cantidades de capital enormes sobre la premisa de que la IA transformará la economía y generará retornos extraordinarios, y ralentizar voluntariamente el desarrollo y presentarse como los garantes de esta prudencia puede ser también una manera de gestionar las expectativas del mercado para evitar que la burbuja se infle demasiado.
La opinión pública, y, por lo tanto, la sociedad, debe tener capacidad crítica para cuestionarse quién construye el relato que consume. Los grandes iluminados que estos días nos advierten de los peligros de la IA no son actores neutrales. Al contrario: son los mismos que dirigen las empresas que la construyen. Cuando explican qué futuro se debe temer y qué ritmo de desarrollo es el aceptable, hay que cuestionar también a quién conviene este futuro.
La carrera de la IA es tanto una carrera económica como geopolítica. Hoy por hoy, Washington y Pekín compiten por liderar una tecnología que puede tener efectos profundos en la seguridad y el equilibrio de poder mundial, y, en este contexto, que una geografía frene su desarrollo parece implicar que la otra seguirá acelerando y acabará tomando la ventaja. Tiene cierta similitud con la lógica que alimentó la carrera nuclear durante la Guerra Fría, con la diferencia de que entonces las armas nucleares estaban bajo el control de los estados, y ahora la IA más avanzada está en manos de empresas privadas que compiten entre ellas. La historia nuclear demuestra que los riesgos de una competición por una tecnología de esta magnitud se resuelven mediante diplomacia y mecanismos de control. Por lo tanto, en tanto que la IA también presenta riesgos de alcance global, quizás se debería abogar por una regulación y coordinación intercontinental.
En definitiva, la tecnología avanza más deprisa que la capacidad de aprender a convivir con ella, y la distancia con el desarrollo humano y ético no deja de crecer. La IA no se está creando, en primera instancia, para hacer una sociedad más culta, más ética, más humana; se está creando con el objetivo de aumentar y acelerar la capacidad productiva, y, por lo tanto, el crecimiento, que no el desarrollo, económico.
Quizás, pues, más que perder el tiempo flirteando con la posibilidad de que la IA acabe con la humanidad, el tema estrella de este otoño debería ser qué tipo de sociedad se está construyendo con ella. Más que nada, porque si se deja que sean sus profetas quienes decidan el ritmo y la dirección, a ver si, en vez de aspirar a llegar a las estrellas, no acabamos todos juntos estrellados.
Añadir VIA Empresa como fuente preferida de Google de forma gratuita
Mantente informado con las últimas noticias de actualidad