Quiero comenzar hablando de tres cosas que me preocupan, ¿verdad? Tres cosas: la primera, y tal vez, muy común para ti también, es el cambio climático. El cambio climático definitivamente me preocupa. La segunda cosa que me preocupa es que las personas pueden tener la idea equivocada de que una inteligencia artificial está tomando decisiones que impactan directamente sus vidas: qué tasa de interés obtienen en un préstamo, si consiguen ese trabajo por el que aplicaron, si su hijo entra en la universidad a la que realmente quiere ir. Hoy en día, la IA toma decisiones que te afectan directamente. La tercera cosa que me preocupa es que incluso cuando las personas saben que una IA está tomando decisiones sobre ellos, pueden suponer que porque no es un humano falible con sesgos, de alguna manera la IA tomará decisiones moralmente o éticamente perfectas, y eso no podría estar más lejos de la verdad.
Índice
- 1 La falta de confianza en la Inteligencia Artificial
- 2 Los cinco pilares de la confianza en la IA
- 3 Los principios de IBM para la IA en las organizaciones
- 4 El desafío de la confianza en la IA es socio-tecnológico
- 5 ¿Cómo abordar el desafío de la confianza en la IA?
- 6 Tabla de resumen
- 7 Preguntas frecuentes
La falta de confianza en la Inteligencia Artificial
Si pensamos en las organizaciones y lo que sucede más del 80% de las veces, los conceptos asociados a la inteligencia artificial se bloquean en las pruebas y, en la mayoría de los casos, se debe a que las personas no confían en los resultados de ese modelo de IA. Por lo tanto, vamos a hablar mucho sobre la confianza, y al pensar en la confianza, existen cinco pilares. OK, cuando estás pensando en qué se necesita para ganar la confianza en una inteligencia artificial desarrollada o adquirida por tu organización: cinco pilares.
Los cinco pilares de la confianza en la IA
En primer lugar, debemos pensar en la imparcialidad. ¿Cómo puedes asegurarte de que el modelo de IA sea justo para todos, en particular para los grupos históricamente marginados?
En segundo lugar, está la explicabilidad. ¿Es tu modelo de IA lo suficientemente explicativo como para poder decirle al usuario final qué conjuntos de datos se utilizaron para crear ese modelo, qué métodos, qué experiencia hay asociada con esos datos?
En tercer lugar, la robustez. ¿Puedes asegurar a los usuarios finales que nadie puede hackear ese modelo de IA de manera que una persona pueda perjudicar intencionalmente a otras personas o hacer que los resultados de ese modelo beneficien a una persona en particular sobre otra?
En cuarto lugar, la transparencia. ¿Estás informando a las personas desde el principio que se está utilizando un modelo de IA para tomar esa decisión y les estás dando acceso a una hoja de datos o metadatos para que puedan obtener más información sobre ese modelo?
Y el quinto pilar es: ¿estás asegurando la privacidad de los datos de las personas?
En resumen, estos son los cinco pilares para ganar confianza en la Inteligencia Artificial.
Los principios de IBM para la IA en las organizaciones
Ahora bien, IBM ha establecido tres principios al pensar en la IA en una organización. El primero es que el propósito de la inteligencia artificial es realmente ampliar la inteligencia humana, no reemplazarla.
En segundo lugar, los datos y los conocimientos derivados de ellos pertenecen únicamente al creador.
Y en tercer lugar, los sistemas de IA, y diría incluso el ciclo de vida completo de la IA, deben ser transparentes y explicables.
Estos son los principios establecidos por IBM.
El desafío de la confianza en la IA es socio-tecnológico
Lo siguiente que debes recordar al pensar en este espacio de ganar confianza en la inteligencia artificial es que este no es un desafío tecnológico. No se puede resolver simplemente arrojando herramientas y tecnología sobre una cerca. Este es un desafío socio-tecnológico. «Social» significa personas, personas, personas. Debido a que es un desafío socio-tecnológico, debe abordarse de manera holística. «Holísticamente» significa que hay tres aspectos principales en los que debes pensar.
¿Cómo abordar el desafío de la confianza en la IA?
El primero es las personas y la cultura de tu organización. Piensa en la diversidad de tus equipos, en tu equipo de ciencia de datos. ¿Quién está seleccionando esos datos para entrenar ese modelo? ¿Cuántas mujeres hay en ese equipo? ¿Cuántas minorías hay en ese equipo? Piensa en la diversidad. La «sabiduría de las multitudes» es una teoría matemática comprobada: cuanto más diverso sea tu grupo de personas, menos posibilidades de error habrá, y eso es absolutamente cierto en el ámbito de la inteligencia artificial.
El segundo aspecto es el proceso o gobernanza. ¿Qué prometerá tu organización a tus empleados y al mercado en cuanto a los estándares que seguirá con respecto a tu modelo de IA en términos de imparcialidad, explicabilidad, responsabilidad, etc.?
Y el tercer aspecto es las herramientas. ¿Cuáles son las herramientas, métodos de ingeniería de IA, marcos que puedes utilizar para asegurar estos pilares, para asegurar esos cinco pilares? Haremos un análisis en profundidad de esto también, pero en el próximo artículo vamos a hablar de las personas y la cultura. Así que, mantente atento.
Tabla de resumen
| Pilares de la confianza en la IA | Principios de IBM |
|---|---|
| Imparcialidad | Ampliar la inteligencia humana |
| Explicabilidad | Propiedad exclusiva de los creadores de los datos |
| Robustez | Transparencia y explicabilidad |
| Transparencia | |
| Privacidad de los datos |
Preguntas frecuentes
Aquí algunas preguntas frecuentes sobre la confianza en la inteligencia artificial:
- ¿Cómo puedo garantizar la imparcialidad en un modelo de IA?
- ¿Qué métodos puedo utilizar para hacer que mi modelo de IA sea explicativo?
- ¿Cómo puedo asegurar la robustez de un modelo de IA?
- ¿Qué información debo proporcionar a las personas para garantizar la transparencia?
- ¿Qué medidas de seguridad debo establecer para proteger la privacidad de los datos?
Espero que estas respuestas te ayuden a comprender mejor la importancia de la confianza en la inteligencia artificial.
Gracias por leer este artículo. Si te gustó, asegúrate de revisar nuestros artículos relacionados para obtener más información sobre ciberseguridad y protección de datos. ¡Hasta pronto!
¿Te ha resultado útil??
0 / 0
Hola, somos Mila Jiménez y César Sánchez. Dos apasionados de la ciberseguridad con muchos años de experiencia. Hemos trabajado en muchas empresas del mundo TI y ahora nos apetece compartir nuestro conocimiento con cualquiera que lo necesite.
¡Si te gusta nuestro contenido puedes invitarnos a un café AQUÍ!