Entender el "Por qué" de los Resultados
En los últimos años, hemos visto un auge impresionante en la adopción de la inteligencia artificial (IA) tanto en el ámbito personal como profesional. Desde asistentes virtuales hasta coches autónomos, los modelos y algoritmos de IA son parte de nuestra vida cotidiana.
La IA avanza a pasos agigantados, pero ¿qué pasa con la ética?
Las soluciones de IA ya toman decisiones que afectan a las personas relativas a contratación, acceso a créditos o diagnósticos médicos. En estos casos han surgido dos grandes retos para las soluciones basadas en IA.
Por un lado, evitar el sesgo en los modelos que provoca discriminaciones. Un estudio reciente de MIT revea que el 80% de los algoritmos de contratación automática presentan sesgos de género.
Por otro lado, como la mayoría de las soluciones actuales de IA se basan en correlaciones, pueden identifican patrones en los datos y hacer predicciones de resultados, pero no consiguen explicar claramente el resultado ni entender realmente el “por qué “del mismo.
– ¿Cómo podemos reducir los sesgos en los algoritmos?
– ¿Cómo podemos conseguir transparencia y comprensión de los resultados?
– ¿Estamos preparados para las decisiones autónomas?
Enfoques
En los últimos años, se han desarrollado varios enfoques para afrontar estos problemas. Todos están relacionados y conectados entre sí, pero cada uno persigue objetivos primordiales digferentes
IA Responsable
Hace referencia a la creación de sistemas de IA que respeten principios éticos, sociales y legales. Se preocupa de que los algoritmos tomen decisiones que no dañen a las personas ni perpetúen desigualdades.
IA Justa
La IA Justa es un concepto relacionado con la equidad en los resultados.
Se preocupa de que los algoritmos traten a todas las personas de manera justa, sin favorecer a un grupo sobre otro.
Su objetivo principal es evitar los sesgos existentes en los datos de entrenamiento, que pueden provocar decisiones injustas que afecten negativamente a individuos y grupos. Tres ejemplos de casos de sesgo muy conocidos:
En 2015, el algoritmo de reconocimiento de imágenes de Google etiquetó erróneamente a los afroamericanos como "gorilas"
En 2016 la solución COMPAS basada en IA y utilizada en Estados Unidos para evaluar el riesgo de reincidencia de los presos, evidenció sesgos en contra de los afroamericanos, ya que con antecedentes penales similares, siempre indicaba que los afroamericanos eran más peligrosos
En 2018, Amazon tuvo un problema con su sistema de IA para la contratación de personal, que tenía un sesgo contra las mujeres debido a los datos de entrenamiento utilizados (currículums de candidatos masculinos enviados a Amazon durante 10 años)
IA Explicable
La IA Explicable se refiere a la capacidad de comunicar los resultados de la IA de manera transparente, clara y comprensible.
Trata de mitigar el efecto “Caja Negra” de los algoritmos de IA, que consiste en la dificultad de comprender las decisiones que toman los modelos, volviéndolos opacos y difíciles de interpretar.
Es fundamental para generar confianza en sistemas que afectan la vida de las personas, como los que se utilizan en el ámbito judicial o financiero.
IA Causal
Trata de identificar relaciones de causa y efecto, sin quedarse sólo en reconocer patrones superficiales en los datos. Se basa en intentar conocer no sólo qué eventos están correlacionados, sino también qué eventos causan otros.
La causalidad en la IA es importante para tomar decisiones informadas, porque muchas veces no es suficiente saber que dos cosas ocurren juntas (correlación). Lo que realmente importa es entender si una cosa está provocando la otra (causalidad).
Imaginemos que un estudio muestra que las personas que llevan paraguas suelen mojarse más. En un análisis basado únicamente en correlación, podríamos concluir erróneamente que llevar un paraguas hace que te mojes. Sin embargo, si aplicamos una lógica causal, nos damos cuenta de que lo que lleva a la gente a sacar el paraguas y mojarse es la lluvia, no el paraguas. La lluvia es la causa real de que la gente esté mojada, no la correlación entre el paraguas y la humedad.
El objetivo de la IA causal es dar un paso más allá de las correlaciones observadas por los algoritmos tradicionales, y ayudar a los sistemas de IA a razonar y tomar decisiones más informadas. Gartner la ha reconocido como una tecnología emergente en su Hype Cycle for New Technologies de 2023 junto con la IA Generativa.
Parece que la incorporación de la causalidad en la IA puede ser la principal área de mejora en los próximos años, y resulta crucial en muchas áreas como:
– La medicina, donde no basta con saber que ciertos síntomas están correlacionados con una enfermedad. Necesitamos saber qué tratamientos causan mejoría
– En el ámbito económico, donde es esencial entender qué políticas causan crecimiento o recesión
Ejemplo Práctico
Veamos la diferencia de estos 4 enfoques con un ejemplo en el sector financiero: Solución de IA en un banco para aprobar/rechazar la Concesión de un Préstamo
Este sistema analiza una serie de factores de los solicitantes como el historial crediticio, los ingresos, la deuda, el empleo del solicitante, … y en base a ellos detecta patrones de datos aprendidos en entrenamiento recibido de datos históricos, y emite un resultado para la concesión del préstamo (Concedido/Rechazado)
IA Justa
Se enfoca en garantizar que los algoritmos traten a todos los solicitantes de manera equitativa. En el contexto de los préstamos, esto significa que el sistema no debería generar resultados sesgados que favorezcan o desfavorezcan a ciertos grupos basados en características protegidas como raza, género o ubicación geográfica. Por ejemplo, si un algoritmo rechaza consistentemente a solicitantes de ciertos barrios sin considerar adecuadamente su solvencia, esto podría indicar un sesgo injusto. La IA justa buscaría identificar y corregir estos sesgos para asegurar que las decisiones de la concesión del préstamo se tomen exclusivamente en función de la capacidad de pago del solicitante, y no basándose en otros factores irrelevantes o discriminatorios.
IA Explicable
Se enfoca en poder comunicar de manera clara por qué se toma una decisión específica. En este caso, si el banco rechaza la concesión de un préstamo, la IA explicable debe poder decir al cliente qué factores influyeron en la decisión. Por ejemplo, podría explicar: "Tu préstamo ha sido rechazado por tener un historial crediticio insuficiente, deuda excesiva, o ingresos por debajo del umbral requerido". Se busca que las decisiones tomadas por los sistemas de IA sean entendibles para los humanos. Esta transparencia ayuda a los solicitantes a entender la decisión y les proporciona la oportunidad de mejorar esos factores si desean solicitar el préstamo en el futuro.
IA Responsable
Va más allá de la justicia y la explicabilidad, abarcando la ética, la legalidad y el impacto social de las decisiones tomadas por la IA. En el caso de los préstamos, una IA responsable consideraría no sólo si las decisiones son justas y explicables, sino también si se alinean con normativas legales y éticas. Esto podría incluir asegurarse de que el sistema no explote vulnerabilidades de los solicitantes, como ofrecer condiciones desfavorables que podrían inducir a un ciclo de deuda. También implica la transparencia hacia los reguladores, y la disposición para ser auditado y corregido según sea necesario.
IA Causal
No solo explicaría la decisión, sino que también buscaría identificar qué factores causan directamente la aprobación o el rechazo de un préstamo. Supongamos que el análisis causal revela que no es sólo el historial crediticio lo que impacta en la decisión, sino también una interacción con otros factores, como el tipo de empleo o la estabilidad laboral. Esto permitiría al banco entender mejor las verdaderas palancas que afectan la solvencia y ajustar sus criterios de préstamo para que sean más efectivos y justos.
En resumen:
La IA Justa asegura que las decisiones sean equitativas y libres de sesgos
La IA Responsable garantiza que las decisiones sean éticas y cumplan con los estándares legales
La IA Explicable permite que las decisiones sean transparentes y comprensibles para los usuarios
La IA Causal profundiza para entender las verdaderas razones detrás de las decisiones, analizando las relaciones de causa y efecto, y ayudando a optimizar y justificar las políticas de concesión de un préstamo.
Conclusión
La incorporación de la causalidad en la IA representa un avance crucial para ir más allá de la identificación de patrones y avanzar hacia una verdadera comprensión de las relaciones de causa y efecto. Aunque sus aplicaciones aún están en desarrollo, su potencial para transformar áreas como la medicina, la economía, la educación y las políticas públicas es enorme.
A medida que los sistemas de IA evoluciones en complejidad y alcance, la causalidad será clave para tomar decisiones más informadas, justas y éticas.
Comments