Editoriales de Agenda Empresa

IA: decisiones automatizadas

posted by @mbellido 5 marzo 2020
Recientemente, en una conferencia que di a un grupo de empresarios sobre las tecnologías exponenciales, alguien me preguntó hacia dónde va la Inteligencia Artificial. No dudé en contestarle que la IA es una de las tecnologías que mayores desafíos tiene planteados, y no precisamente en los aspectos técnicos, que también, sino más bien en cuestiones relacionadas con las repercusiones que puede provocar en los derechos y libertades de las personas. Cuestiones en las que trabajan desde hace tiempo algunos gobiernos y, por supuesto, también la Comisión Europea. Está claro que estas tecnologías que emulan características y capacidades que tradicionalmente estaban ligadas exclusivamente al intelecto humano, necesitan intervenciones normativas que contemplen la salvaguardia de la dignidad humana. Esto es porque la aplicación del conocimiento científico/tecnológico que se centra en la creación en máquinas de programas y mecanismos que buscan explicitar comportamientos considerados inteligentes, puede tener repercusiones extraordinarias en lo económico, en lo ambiental, en lo sanitario y, en general, en todos los aspectos de la vida de las personas.
Seguramente hoy, y aún más en el futuro, el uso de la IA tiene que enfrentarse a varias opciones, aunque mínimas, para no cometer errores con consecuencias negativas sobre las personas. Por tanto, sus programadores tendrán que considerar todas las posibles implicaciones para evitar que las máquinas, en sus decisiones, puedan comportarse incorrectamente desde el punto de vista ético. Asegurar que las acciones de la IA respeten la dignidad humana y eviten la discriminación son factores fundamentales a tener en cuenta antes de que sus aplicaciones se nos puedan ir de la mano. Probablemente recordamos algunos episodios de aplicaciones de reconocimiento de persona en 2015, cuando personas de color negro vinieron reconocidas como ‘gorilas’, u otros casos de aplicaciones cuyos algoritmos, utilizados para la selección de personal en determinadas empresas, habían empleado mecanismos que tenían en cuenta que en algunos sectores venían contratadas personas de un género más que de otro, desarrollando así una preferencia desequilibrada por uno de los dos sexos y asignando más puntos no a la capacidad real de las personas, sino a los pasatiempos que se identificaban con el sexo que menos presencia tenía en el sector. Son ejemplos que pueden parecer banales, que evidencian errores que probablemente no se repetirán, pero que nos ponen en alerta para no olvidarnos de situar la Inteligencia Artificial en una dimensión ética que no prescinda del respeto a los derechos fundamentales de las personas, que procure reforzar sus capacidades, no sustituirlas. Ninguna tecnología, por útil que sea, debería prescindir del status único e inalienable del ser humano. Los avances tecnólogicos en la IA, además de solidez, es decir, seguridad y fiabilidad de los algoritmos y resiliencia de los sistemas frente a posibles operaciones ilegales, tendrán que demostrar respeto a la Ley, reconocimiento y defensa de los principios éticos en pro de las personas. Además, lógicamente, de otros ingredientes como son el acatamiento de las normas de protección de datos, transparencia y controles de verificación y, por supuesto, voluntad de procurar que cada avance busque ante todo el bienestar social, económico y ambiental de las personas, sin dejar nadie atrás.

Posts relacionados