Inteligencia artificial (IA), machine learning, big date, estadística y quantum computing son términos que cada día tenemos más en nuestro diario vivir que a veces ni sabemos qué significan y mucho menos que impacto tienen en nuestras vidas.
Muy probablemente pocas cosas tendrán tanto impacto en nuestro futuro como la inteligencia artificial y el quantum computing. Pero detengámonos un poco en la IA. El potencial es todavía difícil dimensionar todo lo que lograremos con ella.
Como la gran mayoría de los grandes logros y avances de la humanidad, se aprende mucho con prueba y error y el marco de referencia (reglas, límites, valores, etc.) requerido para que evolucione, y el mismo se desarrolla paralelamente a medida que se evoluciona, con los consabidos problemas que la ausencia de reglas, límites, etc. genera.
El calentamiento global es una muestra de ello. Hemos permitido un crecimiento descontrolado de la industria sin tener la más mínima consideración por el impacto en el medio ambiente y la sociedad, y solamente nos empezamos a preocupar una vez que el impacto es casi irreversible (y lo estamos haciendo de forma muy tímida).
En el caso de la IA el tema no es menor y el punto que preocupa es el tema del “bias”, palabra difícil de traducir, porque parcialidad refleja correctamente el significado.
Es inevitable que cada uno de nosotros modele casi todo en la vida en función de su naturaleza personal. Raza, religión o valores, digamos que finalmente el resultado del proceso educativo que tuvimos, a todo nivel y de alguna forma que afectó nuestra vida, hace que sea realmente muy difícil sino imposible ser completamente neutro y ver la realidad sin un lente muy especial. Está claro que lo que es bueno o malo en occidente, no lo es o tiene un tinte completamente diferente en oriente. Y es muy difícil ponernos de acuerdo en dónde está el punto medio o si alguno es más correcto que el otro (que en realidad ninguno lo es).
Y en el caso de la IA esto tiene un efecto muy trascendente.
Hace unos 5 años en una conferencia internacional sobre IA llevada a cabo en Barcelona, España, asistieron unas cinco mil personas. Algunas personas de origen asiático, algunas de origen indio, algunas mujeres, no más de 5 o 6 de origen africano. La gran mayoría eran hombres blancos y son quienes están moldeando la IA de hoy, generándose expertos más que en otra comunidad e introduciendo un bias sesgado hacia su realidad (por más que no sea voluntario y la intención sea ser lo más neutro posible).
Esto asociado con el tema que comentaba, donde es difícil que logremos de alguna forma ver el mundo con los ojos de otras personas, los resultados que se obtendrán de las aplicaciones desarrolladas por expertos hombres blancos, tendrá resultados con mucha tendencia a ser más efectivos y orientados a lo que su educación les indique.
Comparando herramientas de reconocimiento facial desarrolladas por empresas como Microsoft, IBM y Amazon entre otros, se ve claramente este hecho. Si bien algunas se comportan mejor que otras y que se ha evolucionado mucho, promediamente los individuos mujeres negras tienen y los individuos hombres blancos, tienen la mayor diferencia entre detecciones exitosas y no exitosas.
Si bien este es un estudio de 2019 y es una tendencia -y cómo comentamos-, se ha evolucionado mucho, y finalmente, aunque las diferencias porcentuales sean menores, las diferencias seguirán existiendo.
Con esto no quiero decir que debamos abandonar la AI, todo lo contrario, soy un convencido total de que los beneficios que esta nos dará son indudables. Pero si debiéramos tener un marco de referencia bien definido para evitar las desviaciones mencionadas y que sigamos avanzando a un mundo más sostenible e inclusivo.
Existe una aplicación que se viene desarrollando desde 2012, MeMind, orientada a determinar afecciones mentales como la depresión, ansiedad incluso tendencias suicidas, que tiene una eficacia en el diagnóstico superior al 90 por ciento, mayor que la un siquiatra podría lograr, y uno de los puntos más importantes que se buscan introducir en el proceso es justamente lograr este balance que permita detectar de la misma forma personas de distintas razas, países, sexos, etc. incorporando la mayor cantidad de datos posibles, los cuales permiten reducir el nivel de error y mejorar la certeza independientemente de la naturaleza del individuo evaluado.
El balance, considerado en forma completamente general es el que permite que estos procesos no tengan un bias (o por lo menos sea despreciable). Todavía las condiciones no están dadas para que esto suceda, pero la IA avanza sin detenerse. No conozco salvo los intentos aislados de cada organización, un movimiento que se encargue definir las reglas del juego y hacia dónde y cómo se moverá el mundo de la IA en el futuro. Por el momento está dirigido por el hombre blanco occidental (China también tiene un desarrollo importante pero todavía no tiene la proyección internacional) y las decisiones quedan libradas al buen juicio de esa comunidad que es completamente imposible logre ver el mundo desde la lente de todas las demás idiosincrasias que lo componen.
La IA avanzará sin detenerse y nos ayudará en muchos órdenes de la vida y el ámbito de la salud nos dará una capacidad poco imaginable hace unos años. Pero el bias es desde mi punto de vista el mayor desafío que tiene, considerando nuestra naturaleza humana, que hasta el momento no logra balancear su desarrollo adecuadamente.
Fuentes:
Racial Discrimination in Face Recognition Technology,24 de Octubre 2020
The Best Algorithms Struggle to Recognize Black Faces Equally, 22 de Julio 2019
Removing Data Bias from AI and Machine Learning Tools in Healthcare White Paper, Healthcare Information and Management Systems Society
