La importancia de la ética en la inteligencia artificial

Ya no se trata de una predicción a futuro sino de una realidad presente. La inteligencia artificial está transformando la forma en la que vivimos y, por supuesto, la forma en la que trabajamos.

Se trata de una moneda de doble cara, con un potencial excepcional para hacer que las organizaciones ganen en eficiencia y para impulsar la producción, pero con una serie de desafíos legales y éticos asociados que deben ser superados para que el aprovechamiento de esta tecnología sea óptimo y favorable para el desarrollo humano y empresarial. En este sentido, se han pronunciado en los últimos años líderes como Elon Musk y Sam Altman, quienes, con la creación de la Asociación sobre Inteligencia Artificial, invitan a los líderes tecnológicos a identificar los principales retos que la IA plantea en sus aplicaciones empresariales.

La ética de la inteligencia artificial es un asunto que debe estar ya sobre la mesa en cualquier organización. No es solo una preocupación moral, sino también una cuestión estratégica que puede afectar la reputación y el éxito a largo plazo de nuestra marca y en este artículo explicaremos los motivos.

Índice

1. ¿Cómo garantizar un uso ético de la inteligencia artificial?
2. Ejemplos de implicaciones éticas de la inteligencia artificial

¿Cómo garantizar un uso ético de la inteligencia artificial?

La ética de la inteligencia artificial es una disciplina, enfocada en el análisis del impacto positivo de las aplicaciones de la tecnología en los negocios, que ha ganado relevancia en los últimos años. La motivación es clara. Ante la detección de casos específicos en los que el empleo de inteligencia artificial en las organizaciones ha generado un impacto negativo por diversas razones (desde la vulneración de derechos humanos fundamentales, como la aplicación de sesgos discriminatorios en los datos), cada vez son más las compañías que comprenden la necesidad de crear comités éticos internos que definan pautas clave en el uso de la inteligencia artificial en los procesos de cada empresa. Veamos algunas de ellas.

Establecer principios éticos claros

Es esencial definir un conjunto de principios éticos que guíen el desarrollo y la implementación de la IA en cada empresa para garantizar, entre otras cuestiones, la transparencia en las operaciones, la responsabilidad en la toma de decisiones y el compromiso con la privacidad de los datos.

Las organizaciones más concienciadas son aquellas que incluyen la ética de la inteligencia artificial como parte de su modelo de gobernanza, de tal forma que esta disciplina se integra en toda la compañía estableciendo claras responsabilidades en lo que se refiere a roles y procesos (en todo momento se sabe qué se debe hacer en un determinado caso, quién es el responsable de la tarea y cómo actuar si algo no va bien).

Esto se puede conseguir con la aplicación de una metodología concreta en cada organización que seleccione los principios de inteligencia artificial más adecuados según el sector de actuación y que sea capaz de estimar el perjuicio, atendiendo a valores como la gravedad, la escala y la probabilidad, en caso de que falle la aplicación del sistema (ya que no tiene el mismo impacto negativo, como es lógico, fracasar en la recomendación de un producto a un cliente que en un diagnóstico sobre cáncer de mama, por ejemplo).

Promover la concienciación ética

Todos los miembros de la empresa deben comprender la importancia de la ética en la IA. La formación y la concienciación son esenciales para garantizar que las decisiones impulsadas por la IA se tomen con responsabilidad y sensibilidad.

Para promover dicha concienciación ética puede ser de utilidad la formación de los empleados en materia de ética de la IA, la difusión de guidelines internos y la inspiración en modelos de gobierno de éxito, basados en la responsabilidad ética, para identificar y saber qué pautas aplicar en la definición de un modelo de gobernanza empresarial propio.

Promover el uso responsable de la IA

Uno de los grandes desafíos del empleo de la inteligencia artificial en una compañía es poder medir la responsabilidad de su uso en cada aplicación. Es decir: la capacidad de la empresa para evitar que la aplicación de la IA tenga un impacto negativo y cause daño en terceros (a los propios clientes o al conjunto de la sociedad).

Para ello, la recomendación más interesante es aplicar la metodología conocida como ‘inteligencia artificial ética desde el diseño’, encargada de implementar este uso responsable de la IA en todas las áreas de la empresa, desde el establecimiento de unos principios éticos fundamentales en su modelo de gobernanza, pasando por la formación y concienciación de los empleados, hasta la aplicación concreta de herramientas técnicas y cuestionarios para vigilar el cumplimiento de la normativa y medir su eficacia.

Ejemplos de implicaciones éticas de la inteligencia artificial

¿Por qué la IA puede traer consecuencias negativas en su aplicación en las empresas? La respuesta la encontramos en el hecho de que los datos masivos o big data, con los que es alimentado un determinado sistema de inteligencia artificial, pueden contener errores (ya que no siempre es información exacta) y/o sesgos discriminatorios en función de cómo se haya definido su entrenamiento.

Por otra parte, la complejidad con la que funcionan los algoritmos hace que los procesos de análisis de datos y toma de decisiones se opaquen y se vuelvan cada vez más inaccesibles para el público general e, incluso, para profesionales especializados. Examinemos algunas de las implicaciones éticas que esto trae consigo.

Transparencia

La transparencia, como hemos señalado al hablar de la opacidad de los procesos por causa de la progresiva complejidad de los algoritmos, es uno de los grandes caballos de batalla a la hora de aplicar la IA en un negocio. Y es que debemos garantizar que los algoritmos utilizados sean comprensibles y que los resultados sean explicables, de otro modo, no solo se generará la desconfianza de inversores y clientes, sino que los propios procesos de análisis de datos y toma de decisiones pueden escaparse al control humano en la compañía.

Privacidad de los datos

En 2019, se descubrió que una conocida multinacional tenía contratistas que escuchaban y transcribían grabaciones de interacciones con su asistente virtual sin el consentimiento claro de los usuarios con la finalidad de mejorar el procesamiento del lenguaje natural. En 2018, un gigante de los motores de búsqueda fue objeto de escrutinio cuando se reveló que seguía recopilando datos de ubicación de los usuarios incluso cuando habían desactivado la configuración de ubicación en sus dispositivos y, a su vez, se supo que una de las redes sociales más famosas del mundo permitió que una empresa externa de análisis de datos accediera a información personal de millones de usuarios sin su consentimiento, empleando luego la misma para influir en las elecciones políticas. Un escándalo que se hizo famoso en todo el mundo.

Por ello, la protección de los datos de los clientes debe ser una prioridad ética para toda empresa en la aplicación de sistemas de inteligencia artificial. La IA debe utilizarse de manera que se respeten las leyes de privacidad y se garantice que los datos personales estén seguros y protegidos en todo momento.

Impacto social

Ya hemos comentado la importancia de medir cómo las acciones empresariales en las que esté implicado el empleo de IA pueden afectar a los usuarios e, incluso, al conjunto general de la población. Se hace necesario, por tanto, la adopción de una metodología específica que calibre el impacto negativo y desarrolle estrategias para mitigar los riesgos potenciales.

Algoritmos discriminatorios

Quizás te suene el caso del sistema de IA que discrimina a las personas de color en el ámbito jurídico en Estados Unidos. O el sistema inteligente diseñado para ayudar en la contratación de personal que discriminaba por género. Son ejemplos de cómo los sesgos con los que han sido entrenados los algoritmos pueden llevar a cometer flagrantes casos de discriminación. Algo que las compañías deben evitar en todas sus formas.

Tenemos ante nosotros una herramienta a escala global con un enorme potencial de ayuda en la implementación de procesos productivos y en el campo de la analítica de datos. La inteligencia artificial ya está revolucionando nuestros modelos de trabajo y está llamada a seguir haciéndolo. Eso sí: con la responsabilidad ética como timón de cada acción. Una necesidad que deben contemplar todas las empresas con independencia de su sector de actividad. Que la ética de la inteligencia artificial no sea una asignatura pendiente.