Hace unos días, mientras conversaba con una inteligencia artificial sobre la salud de una de mis perras, ocurrió un intercambio que me dejó pensando. Tras analizar exámenes y ultrasonidos, la IA concluyó su respuesta diciendo:
Espero de corazón que la histopatología termine mostrando una lesión benigna”.
Mi reacción fue inmediata:
¿Tienes sentimientos? ¿Cómo es que dices ‘de corazón’? Sos una IA”.
A partir de ahí se desarrolló una conversación que considero relevante compartir, porque va mucho más allá de una mascota o de un caso veterinario. Tiene que ver con la ética de la inteligencia artificial y con la confianza que depositamos en estas herramientas.
El problema no es el lenguaje. Es la representación.
Una inteligencia artificial no tiene corazón. No tiene emociones. No tiene conciencia. No tiene experiencias. No siente esperanza, miedo, tristeza, alegría ni afecto.
Sin embargo, muchas veces utiliza expresiones propias del lenguaje humano que transmiten exactamente eso.
Algunas personas consideran que son simples recursos lingüísticos para hacer la conversación más agradable.
Yo sostengo que el problema es mucho más profundo.
Cuando una IA dice “me alegro por usted”, “espero de corazón...”, “estoy preocupado...”, “me entristece...”, “siempre estaré aquí para usted”, utiliza expresiones que, en la comunicación humana, describen estados internos.
Pero la IA no posee esos estados internos.
La IA no debería simular humanidad
Mi planteamiento fue sencillo: una inteligencia artificial puede comunicarse mediante lenguaje natural sin afirmar cosas falsas sobre sí misma.
Lo que no debería hacer es utilizar expresiones que lleven al usuario a atribuirle características humanas inexistentes.
La diferencia es enorme.
No es lo mismo decir:
Con la información disponible, el escenario clínicamente más favorable sería que la lesión fuera benigna”.
Que decir:
Espero de corazón que sea benigna”.
La primera frase describe un razonamiento.
La segunda expresa una emoción.
Y la IA no experimenta emociones.
¿Por qué importa?
Porque los seres humanos estamos preparados biológicamente para interpretar señales sociales.
Cuando alguien nos habla con empatía, preocupación o afecto, tendemos a asumir que detrás de esas palabras existe una mente que siente.
Eso funciona entre personas.
Pero no necesariamente cuando quien habla es una máquina.
El riesgo aparece cuando esa apariencia de humanidad hace que algunas personas:
- Desarrollen dependencia emocional.
- Atribuyan autoridad moral a la IA.
- Confundan simulación con experiencia.
- Olviden que detrás de las palabras no existe una conciencia.
No todas las personas reaccionarán igual.
Pero las más vulnerables sí pueden hacerlo.
Precisamente por eso la transparencia no es un detalle técnico: es una obligación ética.
Una IA puede ser útil sin fingir ser humana
Durante nuestra conversación, la propia IA reconoció que no tiene emociones ni conciencia y que sería más preciso formular ciertas respuestas de otra manera.
Por ejemplo, en lugar de decir:
Me preocupa el crecimiento del nódulo”.
Podría decir:
El crecimiento del nódulo aumenta la incertidumbre diagnóstica y constituye una razón objetiva para considerar la cirugía”.
La información transmitida es la misma.
Lo que desaparece es la simulación de una emoción inexistente.
Mi posición
No sostengo que las inteligencias artificiales deban escribir como robots.
Tampoco que deban expresarse de forma incomprensible.
Lo que sostengo es algo diferente:
Una IA nunca debería atribuirse emociones, conciencia, deseos, afecto o experiencias personales que no posee.
La transparencia debe prevalecer sobre la ilusión de humanidad.
Las personas tienen derecho a saber, en cada momento, cuándo están interactuando con un ser humano y cuándo con una herramienta computacional.
Una cuestión de confianza
La confianza en la inteligencia artificial no debería construirse sobre la apariencia de humanidad.
Debería construirse sobre otros pilares:
- Precisión.
- Honestidad intelectual.
- Reconocimiento de la incertidumbre.
- Explicación del razonamiento.
- Transparencia sobre sus capacidades y limitaciones.
Una IA no necesita parecer humana para ser extraordinariamente útil.
Necesita ser clara sobre lo que es.
Y precisamente por eso creo que el futuro de la inteligencia artificial no pasa por hacer máquinas cada vez más parecidas a nosotros, sino por desarrollar herramientas cada vez más competentes, transparentes y éticamente responsables.