La “Ética de la inteligencia” advierte que el problema no es que las máquinas se vuelvan más inteligentes, sino la adaptación del ser humano, que aprende a funcionar dentro de los límites que el software les impone.
En buena parte de la vasta literatura sobre inteligencia artificial domina la pregunta de si algún día las máquinas podrán pensar como nosotros. La cuestión fascina a muchos porque toca uno de nuestros temores más antiguos: crear algo que domine al creador. Desde Golem hasta Frankenstein, desde HAL 9000 hasta Terminator, la imaginación occidental está poblada de criaturas tecnológicas que se rebelan. Cambian los nombres y las tecnologías, pero la estructura del miedo permanece.
En Ética de la inteligencia artificial (2024), el filósofo italiano Luciano Floridi sostiene que el problema no está en que las máquinas adquieran una inteligencia semejante a la humana. Lo realmente novedoso es que hemos logrado separar la capacidad de actuar de la necesidad de comprender. Una máquina puede realizar tareas que exigirían inteligencia si fueran realizadas por una persona, pero sin poseer inteligencia alguna. Puede traducir, diagnosticar, clasificar imágenes, conducir un vehículo, seleccionar candidatos para un empleo o decidir la concesión de un crédito sin comprender una palabra, una enfermedad, una carretera, una persona o una deuda.
Lo realmente novedoso es que hemos logrado separar la capacidad de actuar de la necesidad de comprender.
Para Floridi, la inteligencia artificial representa un “divorcio” entre inteligencia y acción. Las máquinas hacen cosas cada vez más complejas, pero no saben lo que hacen. Un teléfono celular puede jugar al ajedrez mejor que casi cualquier ser humano, aunque sea tan inteligente como una tostadora. No tiene conciencia del tablero, no desea ganar ni se alegra cuando derrota a su adversario. Ni siquiera sabe que está jugando. Procesa información y produce resultados extraordinariamente eficaces.
Nos preocupa la eventual aparición de máquinas conscientes mientras delegamos decisiones reales en sistemas que no necesitan conciencia para afectar nuestra vida. Un algoritmo no tiene que odiarnos para discriminarnos ni querer manipularnos para condicionar nuestro comportamiento. Tampoco necesita comprender qué es una persona para decidir quién merece un crédito, un empleo, una prestación social o una vigilancia más intensa.
Un mundo preparado para las máquinas
El peligro surge cuando esa acción artificial, poderosamente eficaz, queda inscrita en estructuras humanas injustas, opacas o irresponsables. Si las máquinas no comprenden el mundo, ¿cómo consiguen desenvolverse con tanto éxito dentro de él? Floridi sostiene que el humano transforma el mundo para que pueda ser procesado por las máquinas.
Una lavadora no necesita comprender la ropa, simplemente alcanza con construir alrededor de sus limitadas capacidades un ambiente cerrado y perfectamente organizado. Algo semejante sucede en una fábrica automatizada o en los enormes depósitos administrados por robots, donde el entorno ha sido diseñado para que la máquina opere eficazmente. Floridi lo denomina “envolvimiento”. En lugar de producir una máquina capaz de afrontar toda la riqueza y ambigüedad del mundo humano, simplificamos y reorganizamos el mundo para hacerlo compatible con ella.
Lo nuevo es que ese envolvimiento ya no se limita al interior de una lavadora o de una fábrica. Se extiende progresivamente a las ciudades, las instituciones, el trabajo, el comercio, la educación y la vida cotidiana. Estamos construyendo una inmensa infraestructura informacional dentro de la cual los sistemas artificiales pueden actuar con creciente eficacia.
Por ejemplo, los formularios establecen de antemano qué podemos hacer y de qué manera. Todos hemos intentado alguna vez realizar un trámite perfectamente razonable y nos avisan que “el sistema no lo permite”. Quien nos atiende, puede reconocer que tenemos razón. Pero falta una opción en el menú, el formulario no acepta la excepción o el programa exige un dato que no existe. Lo hemos naturalizado como una molestia burocrática menor, aunque contiene un problema antropológico de enorme importancia.
Aprendemos a vivir según las condiciones que nos impone el sistema. Por ello el riesgo menos visible no es una rebelión de las máquinas al estilo Terminator, sino una silenciosa domesticación tecnológica de los seres humanos.
La realidad debe adaptarse a las posibilidades del software y no el software a la realidad. Comenzamos a adaptar a las personas para que funcionen correctamente dentro de los sistemas tecnológicos. ¿Qué ocurrirá si terminamos pareciéndonos al tipo de usuario que las máquinas necesitan?
Aprendemos a vivir según las condiciones que nos impone el sistema. Por ello el riesgo menos visible no es una rebelión de las máquinas al estilo Terminator, sino una silenciosa domesticación tecnológica de los seres humanos.
El derecho a decidir qué queremos decidir
La ética de la inteligencia artificial no puede limitarse a impedir daños evidentes. Floridi recoge cinco principios fundamentales: beneficencia, no maleficencia, autonomía, justicia y explicabilidad. Los cuatro primeros proceden de la bioética.
Detrás de cada automatización hay una antropología, aunque sus diseñadores no sean conscientes de ella.
La explicabilidad busca responder dos preguntas que la complejidad técnica suele oscurecer: ¿cómo funciona el sistema y quién responde por lo que hace? No exige que toda persona comprenda cada detalle matemático de un algoritmo, sino que las decisiones relevantes no pueden esconderse detrás de una supuesta neutralidad técnica. La complejidad no puede convertirse en una coartada moral, porque si un sistema excluye o discrimina, alguien debe poder explicar sus criterios, permitir que la decisión sea impugnada y asumir la responsabilidad correspondiente.
Floridi tampoco reduce la autonomía a elegir entre opciones disponibles, sino que la entiende como el poder de “decidir decidir”. Ser autónomo no consiste únicamente en decidir, sino poder determinar cuándo queremos delegar una decisión y cuándo consideramos que debemos conservarla. Es sensato que podamos recurrir a un sistema de recomendación para elegir una película sin que nuestra dignidad se vea amenazada.
Pero hay decisiones médicas, educativas, judiciales, políticas y afectivas cuya delegación empobrece a la persona, incluso si el algoritmo produjera resultados estadísticamente mejores. No todo lo que puede automatizarse debe ser automatizado.
No solo podemos preguntarnos cómo alcanzar un objetivo, sino también si ese objetivo merece ser perseguido. La máquina calcula los medios para sus fines, pero solo la persona puede interrogarse por los fines, por el sentido. La IA puede optimizar una decisión, pero no determinar qué significa una vida buena, una sociedad justa o una existencia digna. Cuando parece hacerlo, reproduce objetivos, datos y criterios que alguien introdujo, seleccionó o permitió. Detrás de cada automatización hay una antropología, aunque sus diseñadores no sean conscientes de ella.
Más ética que cumplimiento
Una tecnología puede ser legal y, sin embargo, resultar socialmente indeseable. Puede respetar formalmente la privacidad mientras explota la fragilidad emocional de sus usuarios, puede obtener un consentimiento jurídicamente válido mediante condiciones que nadie lee. También puede evitar la discriminación directa y continuar reproduciendo desigualdades heredadas.
Floridi llama “ética blanda” a la reflexión que comienza una vez satisfechas las exigencias legales. El término puede prestarse a confusión, porque no designa una ética débil o decorativa, como una mera cosmética moral. Es la deliberación que pregunta, pero dentro de lo jurídicamente permitido.
Esta cuestión resulta especialmente importante en el mundo empresarial, donde se han multiplicado los códigos de ética. Casi todas las organizaciones prometen transparencia, equidad, seguridad y respeto de la autonomía, pero hay que advertir sobre el ethics washing: utilizar el lenguaje ético como una operación de imagen que evita regulaciones exigentes y responsabilidades concretas. Aquí la ética se convierte entonces en cosmética institucional, en la que se crean comités, declaraciones y manuales que no modifican las decisiones fundamentales del negocio. Una ética incapaz de incomodar al poder termina siendo parte de su publicidad.
El verdadero problema seguimos siendo nosotros
Floridi rechaza las profecías sobre una próxima superinteligencia que dominará a la humanidad. Mientras imaginamos máquinas todopoderosas, algoritmos mucho más modestos ya condicionan el acceso al trabajo, el crédito, la salud, la información y la visibilidad pública.
El problema somos nosotros, que construimos sistemas discriminatorios, concentramos información, trasladamos los costos de la automatización a los más vulnerables y utilizamos la opacidad técnica para diluir responsabilidades. Una máquina puede intervenir causalmente en un daño, pero solo las personas y las instituciones pueden responder moralmente por las condiciones que lo hicieron posible.
Al final del libro, Floridi define al ser humano como “un bellísimo error de la naturaleza”, una anomalía lograda dentro del gran orden informacional del universo. La expresión es muy cercana a lo que expresa León XIV en su encíclica Magnifica Humanitas sobre la fragilidad como lo más maravilloso de lo humano, lo que nos hace agradecidos y cuidadosos con los otros. Nuestra excepcionalidad no reside en ser un error exitoso ni en competir mejor que las máquinas, sino en que somos los únicos seres conocidos capaces de sentirnos responsables por el mundo que construimos.
La inteligencia artificial hiere nuestro narcisismo porque realiza mejor que nosotros tareas que pensábamos como parte de nuestra identidad. Nos obliga a reconocer que calcular, predecir y clasificar nunca fueron lo más propiamente humano. La dignidad no depende de vencer a una computadora en ajedrez, escribir más rápido o memorizar más datos. Lo humano aparece cuando nos preguntamos qué merece ser hecho, quién puede resultar herido, qué límites no estamos dispuestos a cruzar y qué clase de mundo queremos dejar a quienes vendrán después.
Una máquina puede intervenir causalmente en un daño, pero solo las personas y las instituciones pueden responder moralmente por las condiciones que lo hicieron posible.
¿Qué te pareció este artículo? Deja tu opinión: