Concepto y Auge
La palabra algoritmo está de moda. Cada día se usa más tanto a nivel profesional, como en nuestra vida familiar y social.
Un algoritmo no es más que un conjunto de instrucciones bien definidas para realizar algo. La Real Academia de la Lengua Española define algoritmo como “conjunto ordenado y finito de operaciones que permite hallar la solución de un problema”. El ejemplo cotidiano más intuitivo del concepto de algoritmo es una receta de cocina, que nos indica un procedimiento concreto y ordenado para elaborar un plato
El auge de la Inteligencia artificial ha propiciado la popularidad de los algoritmos. Están por todos lados, controlan lo que vemos, lo que leemos, nos sugieren compras, nos recomiendan inversiones en bolsa, ordenan nuestras búsquedas en Internet y hasta pueden influir en los amigos que tenemos o en nuestra forma de pensar. Se están convirtiendo en omnipresentes y omnipotentes.
Decisiones de gran impacto social que tradicionalmente han estado en manos de expertos, se han automatizado con algoritmos que agilizan y hacen más eficiente la gestión de infinidad de servicios como contratación laboral, concesión de créditos, o sentencias judiciales. Antes era un señor en un banco quien nos miraba y decidía si éramos dignos de un crédito. Hoy es un algoritmo quien decide, basándose en datos y con instrucciones precisas.
La ingente cantidad de datos disponibles junto con la potencia de los ordenadores actuales, posibilitan la existencia de algoritmos sofisticados y capaces de ejecutar tareas que hasta hace poco nos parecían impensables tanto en el ámbito social/personal como traducciones online, reconocimiento de imágenes o conducción autónoma de un coche, como en el mundo empresarial para monitorizar mercados, predecir ventas, identificar tendencias y detectar patrones de consumo
El “Machine Learning” (disciplina de la Inteligencia Artificial) ha permitido una nueva generación de algoritmos que no requieren que se les indique al detalle las operaciones o reglas a seguir, sino que tienen la peculiaridad de ser capaces de aprender a partir de ejemplos (datos). Estos algoritmos de Machine Learning realizan predicciones que nos permiten tomar decisiones de forma automática, sin que estén establecidas o decididas a priori. Un ejemplo de estos algoritmos son aquellos que nos proporcionan recomendaciones sobre qué ver, qué leer, qué comprar, a qué amigos seguir en las redes sociales,… Lo hacen en base al contenido que solemos consumir y a los gustos de personas que consumen contenidos similares a los nuestros. Tienen un nivel de precisión muy alto y a medida que vamos tomando decisiones, las opciones elegidas alimentan al algoritmo que “sigue aprendiendo” para mantener intacto e incluso mejorar su nivel de acierto.
Netflix, Spotify o Youtube usan este tipo de algoritmos con una lógica muy similar. El algoritmo de Spotify por ejemplo es capaz de predecir qué canciones nos van a gustar, en base a dos factores: el mapa de gustos y las listas de reproducción. Existen 2.000 millones de listas de reproducciones creadas por usuarios en Spotify y cada una de ellas representa un mapa de gustos diferente. El algoritmo rastrea qué canciones son coincidentes en las listas de reproducciones de millones de usuarios para buscar canciones incluidas en dichas listas que UN usuario en concreto no haya oído. La lógica es la siguiente: Si a N personas les gustan las canciones A, B y C, al usuario que le gusten y haya oído las canciones A y B pero no la C, debemos sugerirle esta última.
Lo Bueno
Los algoritmos prestan cada día servicios de mucho valor para los humanos en nuestra vida cotidiana, el mundo empresarial, la salud, la ciencia, los deportes y el entretenimiento.
En los negocios los algoritmos permiten monitorizar mercados, predecir ventas, fidelizar clientes, identificar tendencias, detectar patrones de consumo, e incluso detectar nuevas oportunidades de negocio. Suponen una herramienta muy valiosa para incrementar la productividad de las empresas, sustituyendo a los humanos en tareas tediosas y repetitivas.
La automatización de decisiones mediante algoritmos basados en datos arroja grandes ventajas para optimizar la toma de decisiones y la mejora de la eficiencia ahorrando costes y tiempos de muchos procesos de negocio, servicios públicos y privados.
Lo Feo
Detrás de la aparente y fiable objetividad del funcionamiento de los algoritmos, hay mucha subjetividad humana. Aunque un sistema funcione de forma automática con un algoritmo, no hay que olvidar que ha sido diseñado por una mente humana, y por lo tanto han sido personas las que conscientemente han especificado qué resultados esperar de ellos, y ahí inevitablemente pueden aparecer sesgos.
La creciente influencia de los algoritmos en las decisiones de nuestra vida personal y profesional los hace peligrosos por los sesgos que han demostrado tener. Por ello se está intentando asegurar desde diversos ámbitos que los algoritmos nos permitan tomar decisiones justas, basadas en datos, inmunes a la corrupción, y sin sesgos ni conflictos de interés, ya que las decisiones algorítmicas pueden ser incorrectas o agravar discriminaciones sociales si se basan en algoritmos mal diseñados o entrenados con datos "sesgados".
“Los algoritmos, como los virus, pueden propagar sesgos a gran escala”
En este sentido, se ha criticado mucho el uso que las plataformas de redes sociales hacen de los algoritmos de recomendación, a los que se les acusa de generar adicción, polarizar los debates y hasta manipular conciencias.
También se hizo famoso el caso del algoritmo Compas utilizado por algunos jueces en USA, en el que la población negra resultaba perjudicada debido a los datos históricos sesgados utilizados para su entrenamiento.
Lo Malo
Los algoritmos se basan en el pensamiento convergente que es la capacidad de responder correctamente a preguntas basándose en la memoria y la lógica. Cuando pensamos en las virtudes de la Inteligencia Artificial con respecto a los humanos, nos referimos a este tipo de inteligencia convergente. Es obvio que con una capacidad de memoria y potencia de procesamiento superior, los ordenadores superan a las personas en los juegos basados en reglas, cálculos complejos y almacenamiento de datos como el ajedrez o las matemáticas avanzadas.
Pero lo que les falta a los algoritmos es cualquier forma de imaginación o curiosidad que rompa las reglas, es decir, pensamiento divergente, que consiste en ir más allá de los límites de lo establecido en un marco lógico.(Pensar “out of the box” como dicen los americanos)
Los algoritmos sólo nos muestran lo que queremos ver o, más bien, lo que un algoritmo piensa que nos interesa. Obtenemos recomendaciones sin saber qué filtros se han usado, por lo que no sabemos exactamente qué parte de la realidad nos estamos perdiendo, y recibimos contenidos afines a nuestros gustos, patrones anteriores o hábitos de consumo de millones de usuarios “similares”, provocando el conocido efecto de burbujas informativas o cámaras de eco. (“La realidad no existe”)
Existe cada vez un conocimiento y una preocupación crecientes sobre la importancia de acceder al funcionamiento de los algoritmos. Existen ya avances para explicar la lógica de los resultados que presentan los algoritmos (XAI - Explicabilidad en Inteligencia Artificial) y han surgido activistas por los derechos digitales llevan tiempo reclamando más transparencia y un debate público sobre estas cuestiones.
La Inteligencia Artificial no piensa, sólo evoluciona
La gran mayoría de la población carece de conocimientos necesarios suficientes para entender la tecnología que utilizan en su día a día. Esta brecha de conocimientos dificulta que la sociedad tenga capacidad para tomar decisiones correctas con relación a muchos temas tecnológicos.
En este escenario, es fácil que los algoritmos puedan llevar a personas y empresas a decidir de forma incorrecta o sesgada “porque lo dice el algoritmo” o “porque es la única alternativa que se contempla”.
Para muestra, simplemente recordar que el algoritmo "Win Predictor" daba a Rafa Nadal en la final del Open de Australia sólo un 4% de posibilidades de victoria cuando despues de haber perdido los 2 primeros sets, iba perdiendo 2-3 en el tercero y tenía un 0-40 con su saque. Finalmente consiguió ganar el torneo ganando los 3 sets siguientes.
Por ello sería necesario establecer un marco que forme y ayude al usuario a conocer el nivel de incertidumbre y a adoptar los criterios racionales para saber hasta qué punto se puede dejar en manos de los algoritmos decisiones automatizadas.
Para evitar las cámaras de eco, es recomendable buscar contenidos no afines para no dejar que los algoritmos monopolicen o filtren nuestra información condicionando nuestro criterio. Es urgente crear, evaluar y validar en el mundo real métricas de "justicia algorítmica" que eviten modelos de "tiranía de datos" en la toma de decisiones, de modo que prospere "la democracia" y “participación humana” en el proceso, porque al fin y al cabo “La inteligencia artificial no piensa, sólo evoluciona”
