La advertencia lanzada hace algunos días por Volker Türk, alto comisionado de las Naciones Unidas para los Derechos Humanos, merece atención. Al referirse al acelerado desarrollo de la inteligencia artificial (IA), Türk advirtió sobre la posibilidad de que esta tecnología llegue a representar un riesgo existencial para la humanidad y llamó a establecer límites, mecanismos de supervisión y una gobernanza internacional más robusta. A esta advertencia se han sumado otras en los últimos días.
Esto ocurre en un contexto de alta adopción de la IA. Millones de personas la utilizan para buscar información, resumir documentos, comparar alternativas, interpretar datos, elaborar argumentos y recibir recomendaciones. La IA ya comienza a intervenir en una de las actividades más profundamente humanas: tomar decisiones. Esto nos lleva a una pregunta que consideramos que ha sido poco explorada: ¿qué está ocurriendo con nuestra propia capacidad de decidir?
Por su parte, Bill Gates acaba de abordar esta temática en un reciente artículo, “The Turbulent AI Era Is Here. The Choices We Make Now Are Critical” (“La turbulenta era de la IA ya está aquí. Las decisiones que tomemos ahora son cruciales”), señalando que es la primera vez que una tecnología puede reemplazar e incluso superar aspectos de la cognición humana. Ante esta transformación, plantea la necesidad de preguntarnos qué capacidades y actividades queremos preservar como exclusivamente humanas.
¿Seguimos decidiendo nosotros?
La autonomía no consiste simplemente en escoger entre diferentes opciones. Implica la capacidad de dirigir nuestro propio razonamiento y asumir la responsabilidad de una decisión como propia. Analizar información, cuestionar recomendaciones, contrastar fuentes o considerar alternativas pueden formar parte de ese proceso.
¿Qué ocurre con esas capacidades cuando interactuamos diariamente con sistemas capaces de ofrecernos respuestas inmediatas, estructuradas y convincentes? ¿Contrastamos sus recomendaciones o tendemos a aceptarlas? ¿Buscamos alternativas que el sistema no nos presentó? ¿Modificamos nuestro criterio cuando la IA contradice nuestra posición? ¿Somos capaces de identificar cuánto influyó en nuestra decisión? Y, sobre todo, ¿cómo sabemos si continuamos siendo verdaderamente autónomos al decidir? Es diferente utilizar la IA para fortalecer nuestro razonamiento que sustituir progresivamente nuestro razonamiento por las respuestas que nos da la IA.
Estas preguntas adquieren una dimensión todavía mayor cuando dejamos el ámbito de las decisiones individuales y entramos en el terreno de las decisiones públicas. La ciudadanía puede utilizar IA para escoger un hotel o planificar sus vacaciones. Una diputación puede utilizarla en el proceso de formación de la ley y generar decisiones que influyen sobre miles de personas.
La responsabilidad democrática no puede delegarse a un algoritmo. En una democracia representativa, la ciudadanía delega en personas la autoridad para ejercer juicio político en su nombre. La IA puede asistir ese juicio, pero debemos entender en qué momento la asistencia comienza a sustituirlo.
Necesitamos medir la autonomía
Frente a este desafío, la respuesta no debería ser temer ni rechazar la IA. Tampoco asumir que toda interacción con ella necesariamente debilita nuestra capacidad de decidir. Necesitamos evidencia.
Desde RepensarCR estamos comenzando a trabajar sobre esta pregunta. Estamos desarrollando la primera versión de un instrumento que permita explorar y medir la autonomía humana en procesos de decisión asistidos por IA, comenzando con personas legisladoras.
Gracias al apoyo de Cosmos Institute, una organización que busca tender un puente entre tecnología y filosofía, realizaremos un piloto para observar qué ocurre cuando las personas legisladoras incorporan IA a un proceso de decisión: cuánto cambia su posición inicial, cómo contrastan la información recibida, si mantienen independencia de criterio y qué sucede con elementos como el juicio propio y el pensamiento crítico.
Partimos de una pregunta: ¿cómo podemos aprovechar las extraordinarias capacidades de la IA sin renunciar progresivamente a las capacidades humanas que queremos preservar?
Esa pregunta debería formar parte de la conversación sobre gobernanza tecnológica. El desafío no consiste en escoger entre IA y autonomía humana. Consiste en asegurarnos de que la primera fortalezca a la segunda.