Esta semana nos visitaron en Data is in the Air Javier Camacho y Mónica Villas, ambos co-autores del “Manual de ética en Inteligencia Artificial”. Junto a ellos, participaron Esther Morales, socia de PiperLab, y Enrique Polo, VP de Salesforce Iberia.
Javier y Mónica explicaron a los oyentes de Capital Radio las cuestiones éticas que se deben tener en cuenta a la hora de realizar modelos de Inteligencia Artificial por parte de las organizaciones, puesto que van a impactar directamente sobre los usuarios y en ocasiones sobre sus derechos. En este sentido, ambos autores coincidieron en la existencia de cuatro principios fundamentales a la hora de implicar la ética en los proyectos y toma de decisiones de IA: responsabilidad, equidad, explicabilidad y privacidad.
Privacidad
La privacidad en la información es un derecho de los usuarios para que puedan mantener cierta confidencialidad en aquello que comparten.
Equidad
Mónica y Javier incidieron en el significado de este principio refiriéndose a la justicia. En Inteligencia Artificial, significa que los algoritmos no discriminen en base a atributos sensibles como la edad y el género, entre otros.
“Un ejemplo es el caso de Amazon y cómo se dio a conocer que sus procesos de recruitment estaban sesgados dando como resultado una mayor contratación de hombres que mujeres. Es porque el modelo de machine learning se basaba en datos históricos”.
Explicabilidad
Explicabilidad significa transparencia, es decir, entender y explicar por qué se toman las decisiones y en base a qué criterios: “Hay algoritmos que necesitan de una mayor explicación, por lo que hay que intentar formularlos de otra forma para explicárselos a las personas encargadas de tomar una decisión o para las que se ven afectadas por ese sistema”.
“Hay algoritmos que necesitan de una mayor explicación, por lo que hay que intentar formularlos de otra forma para explicárselos a las personas encargadas de tomar una decisión o para las que se ven afectadas por ese sistema”.
Responsabilidad
Y, por último, la responsabilidad, que es la habilidad de dar una respuesta frente a un reto antes incluso de tomar la decisión.
Por otro lado, Mónica y Javier hablaron también del Sandbox de IA que se está desarrollando en Europa y en el que España está siendo uno de los líderes: “El Sandbox es un banco de pruebas de la IA. Sirve para probar los algoritmos en base a las legislaciones antes de ponerlos en marcha”.
Para finalizar el programa, Javier nos explicó que en ocasiones puede parecer que la ética es un freno al progreso, sin embargo, él considera que es todo lo contrario: “La ética no es un freno al progreso, sino que es un freno que nos sirve para poder parar en las situaciones de emergencia y mantenernos en un ambiente seguro”.
“La ética no es un freno al progreso, sino que es un freno que nos sirve para poder parar en las situaciones de emergencia y mantenernos en un ambiente seguro”.
Puedes escuchar la entrevista completa aquí:
