La ética se basa en la palabra griega ethos, que significa cultura. El ethos es una expresión de la ética, o el ambiente que se establece a través de la ética. Las reglas no escritas de un grupo de personas conforman su cultura y pueden establecer un entendimiento basado en el consentimiento sobre la Inteligencia Artificial (IA).
Los resultados de la IA son mucho mejores cuando se le proporciona datos con el consentimiento en lugar de obtenerlos sin consentimiento. En IBM, hemos establecido estas reglas como parte de nuestros principios éticos. Además del consentimiento, una cultura que fomenta una IA responsable realmente valora la diversidad y la inclusión.
Índice
La importancia de la diversidad en la IA
La IA es un deporte de equipo y la exclusión genera elitismo, que a su vez alimenta la nociva noción de que una persona es mejor que otra. A través de un modelo matemático, sabemos que cuanto mayor sea la variedad de un grupo de personas que intentan abordar un problema complicado, menor será la posibilidad de cometer errores.
Por lo tanto, es realmente importante considerar aspectos como el género, la raza, la etnia, la edad, la neurodiversidad, la visión del mundo y las habilidades al formar equipos de IA.
Ganar la confianza en la IA
Ganar la confianza en la IA no es solo un desafío tecnológico, sino también socio-tecnológico. Es importante adoptar marcos de empatía sistémica. En IBM, utilizamos el pensamiento de diseño como una forma de generar IA que tenga la intención de mejorar a los seres humanos.
Nuestra práctica de diseño se centra en comprender qué está pensando, viendo, escuchando y haciendo una persona. La expresión cultural es vital para este proceso.
Desarrollo de IA con éxito
Alrededor del 80% de los esfuerzos en IA quedan estancados en la fase de prueba de concepto debido a diversas razones. Una de las principales razones es que a menudo las inversiones en IA no están directamente relacionadas con la estrategia empresarial o las personas simplemente no confían en los resultados del modelo.
En IBM, utilizamos el pensamiento de diseño para guiar a los líderes empresariales y a los tecnólogos a través de cuatro etapas. Comenzamos identificando la intención detrás de la inversión en el modelo de IA y cómo está relacionada con la estrategia comercial. Luego, evaluamos las fuentes de datos disponibles y cómo se recopilan. Evaluamos las fuentes de datos y los efectos del modelo de IA propuesto, y planificamos cómo implementarlo.
Ética y diseño de IA
En la fase de evaluación, implementamos marcos de empatía sistémica llamados «ética tecnológica por diseño», según sea necesario. Esto implica identificar los efectos primarios, secundarios y terciarios del modelo de IA. También realizamos un mapeo de las posibles consecuencias beneficiosas y perjudiciales. Y finalmente, examinamos cómo los principios y valores éticos de una organización pueden ayudar a mitigar cualquier daño potencial.
Este enfoque ha sido muy valioso para muchos equipos y ha llevado a revelaciones significativas. En resumen, podemos establecer el ethos correcto para mejorar a los humanos y democratizar de verdad la IA. Para lograr la equidad sistémica en la IA, necesitamos trabajar con equipos verdaderamente diversos y utilizar el pensamiento de diseño para conectar los modelos de IA con la intención empresarial y comprender profundamente la empatía antes de escribir cualquier código de programación.
Tabla de resumen
| Principios Éticos | Objetivos |
|---|---|
| Diversidad e inclusión | Mejorar la calidad de la IA al tener equipos con perspectivas diversas. |
| Consentimiento | Obtener datos con consentimiento para lograr resultados óptimos. |
| Empatía sistémica | Considerar los efectos en cascada y trabajar para mitigar cualquier daño potencial. |
| Conexión empresarial | Vincular las inversiones en IA con la estrategia comercial para obtener resultados confiables. |
Preguntas frecuentes
¿Por qué la diversidad es importante en la IA?
La diversidad en la IA es fundamental porque un grupo de personas diversas puede abordar problemas complicados con menor margen de error.
¿Cómo se puede ganar la confianza en la IA?
Para ganar confianza en la IA, es necesario adoptar marcos de empatía sistémica y utilizar el pensamiento de diseño para comprender profundamente las necesidades de las personas y las organizaciones.
¿Qué obstáculos suelen enfrentar los esfuerzos en IA?
Los esfuerzos en IA a menudo se estancan en la fase de prueba de concepto debido a la falta de vínculos con la estrategia empresarial y la falta de confianza en los resultados del modelo.
En conclusión, en IBM creemos en establecer un ethos ético para mejorar a los seres humanos y democratizar la IA. Trabajamos con equipos diversos utilizando el pensamiento de diseño para vincular los modelos de IA con la intención empresarial y comprender profundamente la empatía antes de escribir cualquier código de programación. Si te ha gustado este contenido, por favor comenta y mantente al tanto de nuestras próximas publicaciones relacionadas.
¿Te ha resultado útil??
0 / 0
Hola, somos Mila Jiménez y César Sánchez. Dos apasionados de la ciberseguridad con muchos años de experiencia. Hemos trabajado en muchas empresas del mundo TI y ahora nos apetece compartir nuestro conocimiento con cualquiera que lo necesite.
¡Si te gusta nuestro contenido puedes invitarnos a un café AQUÍ!