Rome Call for AI Ethics

La realidad de que la Inteligencia artificial (IA) está ya instaurada entre nosotros y  los rápidos avances en esta línea hacen necesario un planteamiento serio y comprometido que controle esta situación ante el posible mal uso de estos avances, bien porque no vayan en un cuidado de la dignidad del hombre, o bien porque dejen le dejen fuera del control de los mismos. Que organizaciones tan dispares se pongan e acuerdo para ello es porque hay una preocupación real por lo que, sin duda, ya está entre nosotros, y porque el hombre no pierda el control de estos avances y se enfoquen siempre en su beneficio.

La Academia Pontificia para la Vida, Microsoft, IBM, la Organización de Naciones Unidas para la alimentación (FAO) y el Gobierno Italiano, firmaron hace unos días el “Llamamiento para una Ética de la Inteligencia Artificial” para apoyar un enfoque ético de la misma.

Con la firma de Rome Call for AI Ethics,  con el tema de «¿El buen algoritmo? Inteligencia artificial: ética, leyes y salud”,  al que sin duda se irán adhiriendo más instituciones y organizaciones, se expresa el deseo de colaborar de forma nacional e internacional. Es un documento en el que se ha intentado recapacitar, “promoviendo un sentido de responsabilidad compartida entre organizaciones, gobiernos e instituciones con el objetivo de asegurar un futuro en el que la innovación digital y el progreso tecnológico estén al servicio del genio y la creatividad humana, y no sea su sustitución gradual”.

Este compromiso saca a la luz la necesidad de rescatar la ética, promoviendo la «algor-ética» en este tipo de actuaciones del hombre. No solo debemos salvar el planeta del calentamiento producido por la actividad humana, sino que la dignidad del hombre debe seguir siendo protegida como el  centro de esta actividad. De otra forma, el hombre se traicionaría así mismo. Para ello esta iniciativa es un primer intento de formulación de criterios éticos comunes, de forma que las empresas que lo firmen asumen un compromiso que sin duda tendrán que tener en cuenta en el desarrollo, producción y distribución de sus productos, lo cual repercutirá sin duda en el nivel de confianza de la sociedad en última instancia.

Que Microsotf firme con orgullo este «Llamamiento de Roma», como dijo en dicha firma, en la promoción de un debate reflexivo, respetuoso e inclusivo sobre la relación entre IA y Ética, y que que presidente de IBM, John Kelly III, dijera que la IA puede ayudar de forma prometedora siempre que se desarrolle de acuerdo con los intereses y valores humanos, es un gran pasos para el futuro desarrollo de la humanidad, toda vez que dichos cambios están afectando en la forma en que vivimos, trabajamos y nos relacionamos, revisando el término de «vida humana» como la realidad de cada persona y de toda la familia humana.

Rome Call for AI Ethics

Introducción:

“ La inteligencia artificial”(IA)  trae profundos cambios en la vida de los seres humanos, y los seguirá trayendo. La IA ofrece un enorme potencial cuando contribuye a la mejora de la convivencia social y el bienestar personal, aumentando las capacidades humanas y posibilitando y facilitando muchas tareas que pueden desarrollarse de forma más eficiente y efectiva. De cualquier forma, estos resultados no están garantizados.  Las transformación en marcha no es solo cuantitativa. Es sobre todo, cualitativa, ya que afecta a la forma en que se desarrollan las tareas y el modo en que percibimos la realidad y la propia naturaleza humana, en la medida en que dichos cambios pueden influenciar nuestros hábitos mentales y de relaciones interpersonales.

Los adelantos tecnológicos deben desarrollarse de acuerdo con un criterio que asegure su verdadero servicio a toda la familia humana (preámbulo de la Declaración Universal de Derechos Humanos), respecto a la dignidad inherente a todos sus miembros y a la naturaleza, y teniendo en cuenta las necesidades de los más vulnerables. La cuestión no es solo asegurar que nadie esté excluido, sino llegar a aquellas áreas de la libertad que pueden ser traicionadas por un algoritmo condicionante.

Dada la novedosa y compleja naturaleza de las cuestiones planteadas por la transformación digital, es esencial para todas las partes interesadas, trabajar juntos en todas las necesidades relacionadas con la IA que se puedan plantear. Esta llamada es un paso hacia adelante con una visión para crecer en un entendimiento común y la búsqueda de  un lenguaje y soluciones que podamos compartir. A partir de aquí, podemos conocer y aceptar responsabilidades a tener en cuenta en todo el proceso de innovación tecnológica, desde el diseño hasta la distribución y su uso, alentando a un compromiso real en un rango de escenarios prácticos. A largo plazo, los valores y principios que podamos inculcar en la inteligencia  ayudarán a establecer un marco para regular y actuar como punto de referencia para la ética digital, guiando nuestras actuaciones y promocionando el uso de la tecnología para el beneficio de la humanidad y el medio ambiente.

Más que nunca, debemos garantizar un panorama en el cual la IA se desarrolle con el foco centrado, no en la tecnología, sino en el bienestar de la humanidad y el medio ambiente,  en nuestra común y sus habitantes humanos quienes están interconectados. En otras palabras, una visión en la cual el ser humano y la naturaleza están en el corazón del desarrollo de la innovación digital, apoyando, más que siendo gradualmente suplantados por tecnologías que se comportan como actores racionales pero que no son humanos. Es tiempo de empezar a comenzar a preparar un futuro tecnológico en el cual las máquinas tendrán un papel más importante en la vida de los seres humanos, pero también un futuro en el cual está claro que en ese progreso tecnológico destaca la brillantez de la raza humana y la dependencia de su integridad ética.

Ética

Todos los seres humanos nacen libres a iguales en dignidad y derechos. Están dotados de razón y consciencia y deberían comportarse unos con otros en un espíritu de compañerismo (cf. Art.1 Declaración Univ. Dchos. Humanos). Esta condición fundamental de libertad y dignidad debe ser protegida y garantizada cuando se producen y usan sistemas de IA. Debe ser la salvaguarda de los derechos y la libertad de los individuos para que no haya discriminación por algoritmos debido a su “raza, color, sexo, lengua, religión, opiniones políticas u otras ideologías, origen nacional o social, propiedad, nacimiento u otro estatus” (Art.2 Declarac. Univ. Derchos. Humanos)

Los sistemas de IA deben ser concebidos, diseñados e implementados para servir y proteger a los seres humanos y el medio ambiente en el que viven.  Este visión básica debe trasladarse en un compromiso por crear condiciones de vida (tanto sociales como personales) que permitan tanto a los grupos como a sus miembros individuales, esforzarse en expresarse completamente donde sea posible.

En orden a que los avances tecnológicos se alineen con el verdadero progreso de la raza humana y respeto al planeta, se debe reconocer tres requisitos. Debe incluir a todos los seres humanos, sin discriminación; su corazón debe centrarse en buscar lo bueno para la humanidad y para cada ser humano; finalmente, debemos estar atentos  a la complejidad de la realidad de nuestro ecosistema que se caracteriza por el cuidado y protección del planeta (nuestra “casa común”) con un enfoque altamente sostenible que incluye el uso, en un futuro, de la inteligencia artificial que asegure la sostenibilidad del sistema alimenticio. Además, todo el mundo debe saber cuando está interactuando con una máquina.

La tecnología basada en la IA nunca debe usarse para explotar a la gente en forma alguna, especialmente  a aquellos que son más vulnerables. Sin embargo, debe usarse para ayudar a la gente a desarrollar sus habilidades (empoderamiento y capacitación) así como para ayudar al planeta.

Educación

Transformar el mundo a través de la innovación de la IA significa comprometerse a construir un futuro por y con las generaciones jóvenes. Este debe reflejarse en un compromiso con la educación, desarrollando currículums específicos que abarquen diferentes disciplinas en humanidades, ciencia y tecnología, y tenga la responsabilidad de educar a las generaciones más jóvenes. Este compromiso significa trabajar para mejorar la calidad de la educación que reciben los jóvenes; debe impartirse de forma metodológica y ser accesible para todos, sin discriminar y ofreciendo igualdad de trato y oportunidades. El acceso universal a la educación debe conseguirse a través de los principios de solidaridad y justicia.

El acceso permanente al aprendizaje debe ser garantizado también para los mayores, quienes deben tener una oferta de oportunidades para poder acceder a servicios fuera de línea durante la transición digital y tecnológica. Además estas tecnologías pueden ser muy prácticas ayudando a las personas con discapacidad para aprender y llegar a ser más independientes: la educación inclusiva también quiere decir usar la IA para apoyar e integrar a todas y cada una de las personas, ofreciendo ayuda y oportunidades para la participación social (ej. El trabajo por control remoto para aquellos que tienen una movilidad reducida, soporte tecnológicos para aquellos con discapacidades cognitivas etc.)

El impacto que traen las transformaciones de la IA en la sociedad, el trabajo y la educación, hace esencial replantear el currículo escolar para poder hacer real el lema educativo “que nadie se queda atrás”. Las reformas en el ámbito educativo son necesarias para poder establecer estándares altos y objetivos que mejoren los resultados individuales. Estos estándares no deben limitarse al desarrollo de habilidades digitales, sino que deben enfocarse en asegurar que cada persona pueda expresar completamente sus capacidades y trabajar por el bienestar de la comunidad, incluso cuando no se consiga ningún beneficio personal.

Tal y como hemos diseñado y planeado para la sociedad del futuro, el uso de la IA debe seguir planes de actuación que estén orientados socialmente, sean creativos, estén conectados, sean productivos, responsables y que tengan un impacto positivo en la vida social e individual de las jóvenes generaciones. El impacto social y ético de la IA debe estar también en el núcleo de las actividades educativas de IA.

El punto principal de esta educación debe ser conseguir una concienciación de las oportunidades y también una postura crítica de la IA desde la perspectiva de inclusión social y respeto individual.

Derechos

El desarrollo de la IA en servicio de la humanidad y el planeta debe estar reflejado en las Regulaciones y Principios que protegen a las personas -particularmente a los débiles y desfavorecido- y al medio ambiente. El compromiso ético de todos los agentes involucrados es un crucial punto de partida; para poder hacer que este futuro sea una realidad, los valores, principios, y en algunos casos, regulaciones legales, son absolutamente indispensables para apoyar, estructurar y guiar este proceso.

Desarrollar e implementar sistemas de IA que beneficien a la humanidad y al planeta mientras se actúa, como herramienta para construir y mantener la paz internacional, el desarrollo de la IA debe ir mano con mano con el fortalecimiento de medidas de seguridad.

Para que la IA actúe como herramienta para alcanzar el bien de la humanidad y el planeta debemos colocar la protección de los derechos humanos en el centro del debate público. Ha llegado el momento de cuestionar que cualquier nueva forma de automatización y actividad algorítmica necesita el desarrollo de mayores responsabilidades. En particular, será esencial considerar alguna forma de “dar cuentas”: debemos pensar en establecer no solo los criterios de toma de decisiones, sino sus propósitos y objetivos. Estos aparatos deben ser capaces de ofrecer información individual sobre la lógica detrás de los algoritmos que se usan en la toma de decisiones. Esta aumentará la transparencia, la trazabilidad y responsabilidad, haciendo más válido el proceso de ayuda a la computadora en la toma de decisiones.

La forma nueva de regular debe ir encaminada a promover trasparencia y su cumplimiento con principios éticos, especialmente para las tecnologías avanzadas que tienen un impacto más grande en los derechos humanos, tales como el reconocimiento facial.

Para alcanzar estos objetivos, debemos asentar desde el principio del desarrollo de cada algoritmo, una visión ética del algoritmo. i.e. una aproximación a la ética por el diseño. Diseñar y planear sistemas de IA en los que podamos confiar implica buscar un consenso entre gobernantes, agencias de Naciones Unidas y otras organizaciones intergubernamentales en cuanto a los principios éticos incorporados en estas tecnologías. Por esta razón, los patrocinadores de la Llamada expresan su deseo de trabajar conjuntamente, en este contexto, a nivel nacional e internacional, para promover la “algor-ética”, es decir el uso ético de la IA definido por los siguientes principios:

1. Transparencia: en principio, los sistemas de IA deben ser comprensibles;
2.  Inclusión; debe tenerse en cuenta las necesidades de todos los seres humanos, de forma que todo el mundo pueda beneficiarse y que todos los individuos puedan disfrutar las mejores condiciones posibles para su expresión y desarrollo;
3. Responsabilidad; aquellos quienes diseñen y desplieguen el uso de IA deben responder con responsabilidad y transparencia;
4.  Imparcialidad: no diseñar o actuar con sesgo o prejuicios, sino salvaguardando la equidad y la dignidad humana;
5. Fiabilidad; los sistemas de IA deben ser capaces de funcionar de manera fiable;
6. Seguridad y privacidad: los sistemas de IA deben trabajar de forma segura y respetar la privacidad de los usuarios.