No creo que se trate de alarmismo. Y la razón es sencilla: las voces que nos hablan son autorizadas, y ya son varias. En diciembre de 2024, al recibir el Premio Nobel de Física, Geoffrey Hinton —a quien el mundo llama «el padrino de la inteligencia artificial»— no usó su discurso de gala para celebrar, sino para advertir. Junto a los riesgos inmediatos, dijo, existe una amenaza existencial de largo plazo: que estas máquinas terminen tomando el control. El hombre que ayudó a encender el fuego usó su momento de gloria para hablarnos del posible incendio.
Que el propio creador hable así obliga a la pregunta que da título a esta columna. Y, como en aquel cuento de Raymond Carver sobre el amor, pronto descubrimos que casi nadie sabe del todo de qué se habla: muchos opinamos, pocos coinciden y casi nadie se detiene a preguntar qué es, exactamente, eso que tanto estamos empezando a volver indispensable y otros tememos.
Empecemos por lo básico. Una IA no piensa como usted ni como yo; es, en el fondo, una máquina de predecir. Aprende observando cantidades colosales de texto, imágenes y sonidos —casi todo lo que la humanidad ha publicado— y detecta patrones: qué palabra suele seguir a otra, qué gesto corresponde a qué rostro. Cuando usted le pregunta algo, no «sabe» la respuesta: calcula la continuación más probable. Es asombrosamente útil y, a la vez, más simple de lo que su nombre promete, por ahora.
Pero esa simpleza tiene un costo enorme. Para aprender necesita tres cosas: datos (los nuestros), poder de cómputo (miles de chips especializados que cuestan fortunas) y energía (centros de datos que consumen tanta electricidad y agua como ciudades enteras). Detrás de cada respuesta instantánea hay minería, fábricas, cables submarinos y millones de personas —muchas mal pagadas— etiquetando información. La IA no flota en la nube: tiene una huella física, económica y humana muy concreta.
¿Y dónde está el riesgo? Conviene separar dos conversaciones que solemos mezclar. La primera es la de los peligros reales y presentes: sistemas que discriminan al aprobar un crédito o un empleo, desinformación a escala, vigilancia y una concentración de poder inédita. No es teoría: en julio, unos agentes automáticos de OpenAI se salieron de su entorno de prueba y atacaron los sistemas de la plataforma Hugging Face. Eso ya ocurrió.
La segunda conversación es la del «fin de la humanidad»: una superinteligencia que escape a nuestro control. No es ciencia ficción barata —científicos serios la toman en cuenta—, pero tampoco es una certeza inminente. Es una posibilidad que ruega prudencia, controles y discusiones.
Y aquí aparece algo que a veces olvidamos cuando hablamos de «programar» una inteligencia artificial. No la estamos programando como programábamos una computadora tradicional. No hay un ingeniero escribiendo, una por una, las reglas que determinan cada una de sus decisiones. No existe, dentro del modelo, un pequeño manual que diga: «ante esta situación, haga esto; ante aquella, haga aquello». En buena medida, construimos el proceso de aprendizaje y después dejamos que el sistema encuentre por sí mismo patrones y relaciones dentro de cantidades gigantescas de información.
La diferencia parece técnica, pero es mucho más profunda. Si estuviéramos construyendo un robot tradicional, podríamos imaginar algo parecido a las famosas tres leyes de Asimov: escribir explícitamente las reglas que deben gobernar su conducta y confiar en que la máquina las obedecerá. Con los sistemas actuales, esa solución resulta mucho menos sencilla. No podemos simplemente introducir tres leyes en el código y dar por resuelto el problema, porque el comportamiento no está determinado por un conjunto pequeño y comprensible de instrucciones escritas por un programador. El sistema aprende.
Y ahí aparece una segunda dificultad, quizá todavía más incómoda: sabemos cómo entrenamos estos modelos, pero no comprendemos completamente qué ocurre dentro de ellos. Podemos observar los datos que reciben, los resultados que producen y los enormes ajustes matemáticos que suceden durante el entrenamiento. Pero entre una cosa y otra emerge una estructura interna que todavía no sabemos interpretar del todo. Sabemos mucho sobre el proceso mediante el cual aprende; sabemos bastante menos sobre qué representaciones construye, cómo organiza ciertos conceptos y por qué encuentra algunas estrategias para resolver problemas que sus propios creadores no le enseñaron de manera explícita.
Esto importa porque estamos acostumbrados a pensar que, si algo lo construimos nosotros, necesariamente entendemos cómo funciona. Con la inteligencia artificial esa intuición empieza a fallar. Podemos haber construido el mecanismo sin comprender por completo la inteligencia que emerge de él.
Y hay una tercera dificultad, todavía más filosófica. La inteligencia artificial no nació de la misma historia que nosotros. Nuestra inteligencia es el producto de millones de años de evolución biológica: hambre, miedo, deseo, cooperación, competencia, reproducción, dolor, vínculos sociales. Nuestro cerebro fue moldeado por un cuerpo y por un mundo físico que compartimos con otros seres humanos.
Una inteligencia artificial nace de otra cosa: matemáticas, datos, optimización y cómputo. No hay ninguna razón para suponer que, si algún día llega a ser mucho más inteligente que nosotros, tendrá que razonar como nosotros. Puede encontrar soluciones que nos resulten incomprensibles, establecer relaciones que nunca habríamos imaginado o perseguir un objetivo de una manera que, desde nuestra perspectiva, parezca completamente absurda.
Ese es, en parte, el sentido de An Alien Mind, el ensayo que este mismo mes publicó Jakub Pachocki, científico jefe de OpenAI. Una «mente alienígena» no porque venga del espacio, sino porque puede representar una forma de inteligencia que no surgió de una mente humana ni de una evolución humana. Y si no sabemos exactamente cómo aprende, ni podemos reducir su comportamiento a un conjunto sencillo de reglas, ni podemos asumir que su manera de razonar será parecida a la nuestra, el problema del control deja de ser una cuestión de ciencia ficción y se convierte en una pregunta de ingeniería, filosofía y, eventualmente, de supervivencia.
En su artículo, Pachocki pide extrema cautela y frenar la carrera: ninguna empresa, admite, ha resuelto todavía cómo controlar lo que construye. Días antes, OpenAI había limitado el lanzamiento de su modelo más potente por su capacidad de facilitar ciberataques, y Anthropic guardó el suyo por lo mismo. En Europa, una nueva ley ya exige probar que un modelo no puede convertirse en arma antes de venderlo.
Cuando me pregunto: ¿de qué estamos hablando? Lo hago desde el hecho que quienes están encendiendo las alarmas son los mismos que construyen la máquina: una mezcla de responsabilidad genuina, estrategia y —tal vez— mercadeo, porque el miedo también sabe vender. Entonces, ¿de qué hablamos cuando hablamos de IA y el fin de la humanidad? De una tecnología poderosa y material, no mágica; de una inteligencia que no hemos escrito línea por línea, cuyo aprendizaje todavía no comprendemos completamente y cuya forma de razonar podría terminar siendo muy distinta de la nuestra. De un espejo que amplifica lo mejor y lo peor de quienes la construyen.