Una decisión debe ser tomada. Pero ¿quién debería hacerlo? ¿Yo, un humano, o una inteligencia artificial, un AI? Ya hemos discutido anteriormente que los humanos pueden superar a la AI en algunas tareas, pero estadísticamente, la AI hará un mejor trabajo tomando decisiones en otras tareas. Entonces, para una decisión única, ¿quién debería decidir? Bueno, la respuesta es una fascinante combinación de curvas holísticas y sesgos humanos. Vamos a adentrarnos en el tema.
Índice
La combinación de AI y el sesgo humano
Consideremos un sistema de detección de fraudes. El sistema genera alertas de transacciones potencialmente fraudulentas. Los analistas financieros revisan cada alerta. Ahora, se generan miles de eventos cada día y los analistas se sienten abrumados, ya que el 90 por ciento de esas alertas son falsos positivos. Un sistema de AI podría ayudar a aliviar la carga de trabajo. Pero ¿qué alertas debería manejar la AI y cuáles deberían ser procesadas por un analista financiero capacitado?
Para responder a esta pregunta, dibujemos una gráfica: «¿Esta es una alerta real?» Determinemos el eje X e Y. El eje Y representa la tasa de éxito. Cuando se genera una alerta, hacemos una predicción sobre si es real o no y seguimos si esa predicción resultó ser correcta. A lo largo del eje X se encuentra el puntaje de confianza. Un puntaje de confianza del cero por ciento indica que una predicción piensa que definitivamente no es una alerta real, sino un falso positivo. Un puntaje de confianza del cien por ciento significa que una predicción está segura de que es una alerta real.
Normalmente, la curva de rendimiento de una AI se verá algo así. Tenemos puntajes de confianza muy bajos que indican que no es una alerta real, y puntajes de confianza muy altos que indican que sí es una alerta real. Estos están correlacionados con una alta tasa de éxito. Estas áreas aquí arriba. Cuando la AI no está segura de una predicción, entonces no es el caso. Una tasa de éxito más baja cuando la AI tiene dudas. Efectivamente, el algoritmo de la AI está diciendo: «No lo sé».
Por otro lado, las curvas de rendimiento de los humanos son típicamente un poco más planas que eso. La curva de rendimiento de un humano podría verse algo así. A menudo, no es tan precisa como un algoritmo de AI muy confiable, pero es un poco mejor para tomar la decisión correcta cuando la AI tiene dudas. A un nivel de confianza del 50 por ciento, es probable que un humano haga un mejor trabajo que una AI. ¿Por qué es eso? Bueno, cuando una AI está segura de sí misma, tiene un rendimiento alto y supera a los humanos, que pueden perder consistencia, enfoque y atención. Las AIs no se distraen. Pero, por otro lado, cuando una AI tiene dudas, a menudo en casos complejos o estadísticamente raros, los humanos pueden superar una predicción de AI al aportar información y contexto adicional. Pueden buscar información o consultar a un colega, mientras que la AI se adhiere a su misma lógica de decisión e información. Entonces, cuando se recibe una nueva alerta, si la AI asigna un alto o bajo nivel de confianza, entonces es más probable que estadísticamente haga un mejor trabajo para determinar si esa alerta es real o un falso positivo que un analista financiero en particular. Pero esto no es un juego de suma cero. No tiene que ser AI o humano. Tenemos una opción más: la inteligencia aumentada.
Inteligencia Aumentada: La combinación perfecta
La inteligencia aumentada combina una decisión humana, asistida por AI, y esta curva de rendimiento se encuentra en algún punto intermedio. Para puntajes de confianza moderadamente bajos y moderadamente altos, que constituyen un número significativo de predicciones, es la inteligencia aumentada la que tendrá la tasa de éxito más alta. Sin embargo, para que la inteligencia aumentada sea más efectiva, debemos tener en cuenta el problemático sesgo cognitivo humano. No siempre somos buenos siguiendo instrucciones. Resulta que la forma en que presentamos información de un algoritmo de AI a una persona que debe tomar decisiones tiene una influencia significativa en qué tan efectivamente se utiliza esa información.
Para ilustrar esto, consideremos la visualización forzada frente a la visualización opcional. Una visualización forzada muestra simultáneamente una recomendación de AI junto con un caso de decisión dado. Entonces, para cada alerta de decisión de fraude sobre la cual debo tomar una decisión, yo, como analista, también veo la recomendación de AI. Esto puede conducir a algo llamado sesgo de automatización, que es la propensión de los humanos a favorecer sugerencias de sistemas de toma de decisiones automatizados e ignorar información contradictoria. Efectivamente, el tomador de decisiones humano está diciendo que la AI lo sabe mejor y se está basando en la predicción de la AI a expensas de su propio juicio.
La visualización opcional significa que la recomendación de AI solo se muestra al tomador de decisiones humano cuando esta es solicitada. Entonces, una persona ve un caso de decisión y luego puede solicitar a la AI que revele su recomendación. Esto supera el sesgo de automatización al darle a la persona tiempo para considerar el caso por sí misma antes de consultar una recomendación de AI. La persona no se ve abrumada por lo que la AI piensa, porque ha tenido la oportunidad de formar su propia impresión inicial.
Luego está la cuestión de la confianza. Cuando una recomendación de AI se acompaña de un porcentaje de precisión, que indica qué tan probable es que esta predicción sea correcta, es menos probable que los humanos incorporen la recomendación de AI en su decisión, independientemente del porcentaje de precisión que se muestre. Básicamente, no nos gustan las recomendaciones que nos dicen abiertamente que podrían estar equivocadas.
Entonces, hemos visto que quién debería tomar una decisión, un humano, una AI o un humano asistido por una recomendación de AI, es algo que podemos determinar. Podemos pasar de decisiones subjetivas a decisiones cuantificables. Podemos determinar cuál es el tomador de decisiones más efectivo para una decisión determinada. Y cuando el tomador de decisiones más efectivo es una combinación de AI y humano, eso es inteligencia aumentada, debemos considerar una presentación de esa combinación para minimizar el sesgo cognitivo humano en el proceso de toma de decisiones. Juntos, los humanos y los algoritmos de AI conformamos un equipo bastante poderoso. Podemos mejorar los resultados de la toma de decisiones, si solo sabemos a quién preguntar.
Preguntas frecuentes
¿Qué es la inteligencia aumentada?
La inteligencia aumentada se refiere a la combinación de la toma de decisiones humanas con el apoyo de algoritmos de inteligencia artificial. Esta combinación busca aprovechar las fortalezas específicas de cada uno para tomar decisiones más efectivas y mejorar los resultados.
¿Qué es el sesgo cognitivo humano?
El sesgo cognitivo humano se refiere a los errores sistemáticos de razonamiento o percepción que pueden influir en nuestras decisiones. Los humanos pueden tener prejuicios y tendencias que afectan la objetividad de la toma de decisiones. La inteligencia aumentada busca minimizar estos sesgos mediante la presentación adecuada de información y el uso de algoritmos de AI.
¿Cómo se puede minimizar el sesgo cognitivo humano en la toma de decisiones?
El sesgo cognitivo humano se puede minimizar en la toma de decisiones al proporcionar información de manera imparcial y objetiva, presentar recomendaciones de AI de manera opcional en lugar de forzada, y fomentar la reflexión individual antes de consultar las recomendaciones de la AI. La transparencia en la forma en que se presentan las recomendaciones de la AI también puede jugar un papel importante.
Resumen de la información
| Enfoque de toma de decisiones | Descripción |
|---|---|
| Humano | Mejor en casos de baja confianza de la AI y situaciones complejas o estadísticamente raras. |
| AI | Mejor en casos de alta confianza y situaciones donde se requiere una consistencia y enfoque infalibles. |
| Inteligencia Aumentada | Combina la toma de decisiones humana con la asistencia de la AI para lograr una mayor tasa de éxito en casos moderadamente confiables. |
Si tienes alguna pregunta, déjanos un comentario, y si quieres ver más contenidos como este en el futuro, ¡dale like y suscríbete! Gracias por tu atención.
Consulta nuestros artículos relacionados para obtener más información sobre el tema.
¿Te ha resultado útil??
0 / 0
Hola, somos Mila Jiménez y César Sánchez. Dos apasionados de la ciberseguridad con muchos años de experiencia. Hemos trabajado en muchas empresas del mundo TI y ahora nos apetece compartir nuestro conocimiento con cualquiera que lo necesite.
¡Si te gusta nuestro contenido puedes invitarnos a un café AQUÍ!