Hace unos días participé en una conversación con autoridades de toda América Latina sobre los impactos de la inteligencia artificial (IA) en la integridad electoral. Aunque centrado en las elecciones, el evento, organizado por IDEA Internacional y la Junta Central Electoral de la República Dominicana, nos permitió reflexionar, más ampliamente, sobre el efecto del cambio tecnológico en el futuro de la democracia. Cualesquiera sean las urgencias del día –y son muchas las amenazas que acechan a la democracia en Costa Rica—es vital alzar la vista y pensar en cómo preparar a nuestra sociedad frente a los inmensos cambios que están ocurriendo en el mundo.
Para que la democracia sobreviva en la era de la IA, las preguntas que debemos plantearnos van más allá del ámbito electoral, para abarcar aspectos éticos y políticos fundamentales. Mencionaré algunas, con la esperanza de que hagan evidente la complejidad de lo que tenemos entre manos y la necesidad de que nuestra sociedad empiece a discutir cuanto antes sobre estas transformaciones. No tengo la impresión de que esta discusión seria esté ocurriendo en ningún país. Eso me aterra.
La primera de esas preguntas tiene que ver con la extrema concentración de riqueza y poder que está generando esta nueva fase de la revolución digital, en un grupo muy pequeño de empresas y empresarios que están adquiriendo una posición inexpugnable en la industria más importante del futuro. En virtud de ello pueden extraer rentas inimaginables y controlar la manera en que nos informamos sobre el mundo. Este es un poder sin precedentes, en manos casi completamente privadas, y, al día de hoy, no sometido a control democrático o social alguno. Si no se le controla ya, ese poder acabará sometiendo hasta a los estados más poderosos del mundo, para no decir los de nuestros países. Es difícil imaginarse que esa concentración de riqueza y poder sea compatible con la democracia, un sistema político fundado sobre la idea de la difusión del poder.
La segunda pregunta se relaciona con las consecuencias sociales que la diseminación de la IA generará, a través de la automatización de cientos de millones de empleos y la desaparición de industrias completas. Esto se vuelve más complejo cuando vemos, desde ahora, los atisbos de una agresiva reacción social contra la automatización de empleos y las consecuencias energéticas del crecimiento de la industria de la IA. En Estados Unidos, los titanes de la industria digital empiezan a ser abucheados en las universidades y los centros de datos a ser bloqueados por las comunidades. La IA se está convirtiendo en una fuente de gran incertidumbre social. Y si algo hemos aprendido de la historia es que esa ansiedad social termina alimentando la inestabilidad política y la atracción por discursos autoritarios de restauración del orden, habitualmente letales para la democracia. Si nos interesa el futuro de la democracia urge diseñar instrumentos que contribuyan a mitigar la incertidumbre social, por ejemplo mediante alguna modalidad de ingreso mínimo universal, antes de que una parte grande de la sociedad acabe desplazada de toda actividad productiva y se convierta en económicamente irrelevante y políticamente agraviada.
La tercera pregunta es la del futuro de la prensa independiente. En las últimas tres décadas la internet ha ocasionado una ola de extinción de los medios de comunicación tradicionales, sobre todo a nivel local. Los que han sobrevivido al diluvio lo han hecho migrando al espacio digital y buscando maneras de atraer clicks y, con ello, ingresos. Lo que emerge ahora es un modelo de búsqueda de información que hace innecesario ir a las fuentes periodísticas. Las consecuencias para la prensa pueden ser devastadoras. Estamos a las puertas de un periodismo sintético que recicla e inyecta noticias en nuestra mente de acuerdo con algoritmos incomprensibles y no tiene ni capacidad ni interés de someter a escrutinio al poder político, algo que solo puede hacer el periodismo verdadero.
La cuarta pregunta es la de los sesgos de los grandes modelos de lenguaje. Recién le pedí a mi amiga Claude que me proporcionara diez frases citables sobre la democracia. En un instante me las dio, todas reales y elocuentes. Eso sí, nueve de ellas eran de hombres y, con excepción de Winston Churchill, todas de autores estadounidenses. Vemos aquí plasmada una de las manifestaciones del formidable poder que ostentan las empresas que desarrollan la IA. Es un poder que no tiene que ver con sus intenciones aviesas sino con la simple realidad de cómo se origina la información que alimenta los grandes modelos de lenguaje. La IA está cundida de sesgos, que moldean nuestra percepción del mundo y excluyen a muchísimas voces de las fuentes que estas herramientas emplean. Hay un proverbio africano que dice que mientras los leones no tengan sus propios historiadores, las historias de caza seguirán glorificando al cazador. Este aforismo se aplica con creces a la IA. Mientras no exista transparencia algorítmica y un esfuerzo consciente para mitigar sesgos en los modelos de lenguaje, la información que consumimos y utilizamos para poner nuestra marca en el mundo seguirá exaltando las virtudes de los cazadores de Silicon Valley y ahora también de Beijing. Hay que decirlo: una tecnología que excluye las voces de muchos y muchas no es una tecnología democrática.
Podría seguir, pero lo dejaré aquí. Aunque pueda parecer así, no es mi intención regodearme con las dificultades. Ninguna de estas preguntas niega el potencial de la IA para generar inmensos avances en el bienestar de la especie humana. Hace unos días, Elon Musk afirmaba que en pocos años nuestro problema como especie será cómo administrar la abundancia. Quizá. Mi preocupación es que los años próximos nos traigan un mundo en que seamos cada vez más prósperos y menos iguales; cada vez más opulentos y menos libres.
Aquí hay que recordar lo dicho por Saint-Exupéry: los seres humanos no somos solo un rebaño que espera ser engordado. Nos animan también pasiones que van más allá del bienestar material, entre ellas las de pensar libremente, hacer oír nuestra voz, crear sin límites, amar a quien nos plazca y, en última instancia, escoger la vida que estimamos valiosa. Nuestra dignidad requiere de un estómago lleno y un cuerpo sano, pero también de un espíritu libre y con capacidades de agencia. Esta es la parte de nuestra naturaleza que la democracia protege mejor que ningún otro sistema político. Por ello debemos defenderla ante los riesgos que plantea la IA.
¿Qué hacer? Lo primero es reivindicar nuestra agencia, abandonar el fatalismo y expandir los límites de nuestra imaginación. Regular a los gigantes digitales, negociar un nuevo contrato social que mitigue la incertidumbre, proteger a la prensa independiente y asegurar que la IA refleje las voces de los leones y no solo la de los cazadores sólo puede hacerse mediante la acción colectiva a escala nacional e internacional.
A nivel nacional requiere un ejercicio deliberativo amplio, en el que participen múltiples actores políticos, sociales, académicos y mediáticos, que conduzca a reformas en el sistema educativo, en los marcos regulatorios y en los derechos sociales y el modo de financiarlos. A nivel internacional requiere de un esfuerzo diplomático inmenso y la disposición de formar alianzas con todos los países del mundo que compartan el objetivo de someter a la IA al control democrático.
Al decir esto me anima, como decía Gramsci, el pesimismo del intelecto y el optimismo de la voluntad. Como especie y como país nos urge una discusión seria sobre cómo amalgamar la más prodigiosa creación de nuestra evolución tecnológica, la IA, con la más admirable de nuestras creaciones políticas, la democracia. Guardo la esperanza de que de esa deliberación emerja la acción colectiva que venza la perplejidad presente y proteja para las generaciones venideras el sueño de una humanidad libre, democrática y reconciliada.