Artículo

IA explicable: la luz que ilumina el futuro de la IA

Publicado: mayo 4, 2021

La introducción de la inteligencia artificial (IA) en el mundo de la tecnología ha traído consigo un sinfín de oportunidades de innovación y en 2021 no muestra signos de detenerse. Según una encuesta mundial de McKinsey titulada “El estado de la IA en 2020”, el 50 % de los encuestados afirman que sus empresas han adoptado la inteligencia artificial en al menos una función empresarial. La adopción de sistemas de IA sigue aumentando en todos los sectores clave. 

Sin embargo, a medida que crece la omnipresencia de la IA, también aumentan las preocupaciones, concretamente en torno al actual enfoque de “caja negra” que se está adoptando y a la falta de IA explicable (XAI). Estas inquietudes han de abordarse, lo que significa que las empresas tendrán que hacer un cambio de mentalidad para ser más transparentes sobre las decisiones de sus sistemas de IA y explicar los procesos en términos sencillos para los clientes. Este cambio permitirá que la tecnología de la IA se convierta en una tecnología más arraigada en los procesos clave que afectan a la vida. 

Imaginemos por un instante que los sistemas de IA son interacciones humanas. Si un director/a de banco, que es el responsable de decidir cada día a qué clientes se les concede un préstamo, es incapaz de justificar sus decisiones cuando se le pregunta, está operando en una caja negra. Como sus decisiones no son visibles para los demás, no hay información ni rendición de cuentas. Si bien esto no es probable que ocurra en un entorno empresarial, es común en el mundo de la IA. 

En este momento, expertos de todos los sectores están buscando formas de abordar el dilema de la XAI. Para hacer frente a estos desafíos, las empresas pueden utilizar el aprendizaje automático (ML) de dos maneras:    

Una opción es utilizar un árbol de decisión, un algoritmo de ML explicable y de fácil lectura. Los árboles de decisión pueden incluso imitar la forma en que los seres humanos tomamos decisiones al dividir la elección en muchas opciones más pequeñas, lo que hace que los procesos complicados sean más comprensibles.

Una segunda opción es utilizar el valor de Shapley. En la teoría de juegos, el valor de Shapley asigna a cada característica un valor que marca su importancia en una predicción concreta de ML. En el entorno del ML, las características que a menudo se denominan jugadores contribuyen cada una de ellas en una cantidad diferente a la predicción final. El objetivo es calcular los valores SHAP (explicación aditiva de Shapley) para cada predicción y ver la contribución de cada característica para entender por qué el sistema ha hecho un tipo de predicción concreto.

Cuando se hacen bien, estos enfoques proporcionan transparencia en los resultados generados por la IA. Por ello, diversos sectores pueden utilizar estos enfoques como: 

Servicios bancarios y financieros

La detección del fraude es una de las formas en que la IA puede influir en el sector de la banca y los servicios financieros. La IA/ML puede digerir patrones de fraude históricos, incluso muy sofisticados, y hacerlo mucho más rápido que los humanos. Con este conocimiento histórico, la IA/ML puede reconocer y evitar que se produzcan futuros casos. Cuantos más datos tomen estos sistemas, más eficaces serán para proteger a las empresas y a sus clientes. 

El marketing es otro ámbito en el que la IA puede tener un gran impacto. Gracias a la IA, un equipo puede identificar el contenido idóneo para cada cliente en función de factores como la edad, la ubicación geográfica y las acciones anteriores. Gracias a este conocimiento detallado, los bancos pueden sustituir las comunicaciones no deseadas por información relevante y personalizada. Estos conocimientos también pueden anticipar las necesidades de una persona y contribuir a potenciar las oportunidades de ventas cruzadas y adicionales. Por ejemplo, pueden identificar qué clientes son padres y enviarles información sobre la apertura de una cuenta 529 en Estados Unidos para los futuros gastos universitarios de sus hijos.  

Salud y Ciencias de la Vida

En lo que respecta a la sanidad y las ciencias de la vida, el potencial de uso de la IA es increíble. Tomemos como ejemplo el diagnóstico. El National Cancer Institute afirma que la tecnología de IA en la atención al cáncer podría mejorar la precisión y la rapidez del diagnóstico, ayudar a la toma de decisiones clínicas y conducir a mejores resultados sanitarios. Lo que hace que la IA sea indispensable en este contexto es su capacidad para estudiar patrones que son demasiado sutiles para el ojo humano y que, cuando se reconocen, pueden guiar a los médicos hacia el tratamiento correcto para salvar vidas. 

La IA y, en concreto, el ML también pueden acelerar el proceso de descubrimiento de medicamentos. Por ejemplo, DeepMind de Google, que presentó su programa AlphaFold, que predice la estructura de las proteínas y ofrece pronósticos computacionales que alcanzan los estándares de calidad de la cristalografía de rayos X. Al obtener un mayor conocimiento de las moléculas que componen el cuerpo humano, podemos comprender mejor la naturaleza de las enfermedades, lo que nos permitirá desarrollar nuevas formas de tratarlas eficazmente.    

Telecomunicaciones 

Las redes de telecomunicaciones son cada vez más complicadas. Por eso, según el estudio de McKinsey mencionado anteriormente, los encuestados del sector de las telecomunicaciones se encuentran entre los más propensos a informar sobre la adopción de la IA.

La complejidad viene estimulada por una serie de nuevos servicios que las telecomunicaciones están introduciendo. Los nuevos servicios pueden fomentar la fidelización de los clientes y abrir nuevas fuentes de ingresos, pero también pueden aumentar las posibilidades de que se produzcan costosos tiempos de inactividad y otros problemas de rendimiento. Si hay demasiadas interrupciones del servicio, las nuevas ofertas pueden hacer que los clientes se pasen a la competencia. 

La IA/ML es capaz de analizar estas redes las 24 horas del día y detectar posibles puntos débiles. Al identificar las incidencias antes de que se conviertan en un problema, la IA/ML permite a los equipos actuar y evitar costosas interrupciones. Las empresas también pueden crear redes autooptimizadas que mejoran automáticamente la calidad de su red en función del tráfico de la región y la zona horaria. 

La transparencia es clave para el futuro de la IA

Se ha generado poco debate sobre el impacto que la IA tiene y seguirá teniendo en el mundo que nos rodea. Para prepararse para una mayor integración de la IA/ML en el futuro, las empresas deben empezar a abandonar el enfoque de “caja negra” y aplicar la XAI. Con la XAI habrá mayor transparencia en los procesos y los consumidores estarán más dispuestos a aceptar una mayor integración de la IA en la vida cotidiana. Al permitirnos comprender mejor el por qué, abrimos la puerta para ver cómo la IA seguirá redefiniendo el mundo que nos rodea.

 

Inteligencia artificial y Machine Learning o aprendizaje automático

Servicios tecnológicos que reformulan el factor humano.

Contenido relacionado