Siempre hay, y habrá, partidarios y detractores de cualquier idea, movimiento, estilo… y tecnología, como es la Inteligencia Artificial (IA) que se está abordando en estos Lunes Financieros. Veamos las desventajas y los argumentos más evidentes en contra de esta tecnología, que realmente no es sólo del sector financiero.
No controlan su funcionamiento
La IA utiliza cada vez algoritmos más complejos. Si bien es precisamente esta complejidad computacional lo que ha permitido que los sistemas evolucionen autónomamente (sin intervención humana) y hagan tareas cada vez más complicadas, esto produce un efecto de opacidad que se traduce en desconocimiento humano del funcionamiento de las máquinas.
Al no poderse controlar las bases de datos que alimentan estos sistemas, cada vez más grandes, ni controlarse los cálculos, cada vez más complejos, sólo queda “confiar” en que los resultados que arrojan sean correctos, pues no existe ningún ser humano que tenga conocimiento de todo el proceso.
Si los resultados que arrojan estos sistemas no son correctos o directamente toman decisiones como consecuencia de esos resultados, a mí me pueden denegar un préstamo por probabilidades de situaciones que me puedan ocurrir en el futuro o proponerme o desaconsejarme inversiones de hipotéticos escenarios basados en probabilidades.
Ni siquiera la IA podrá controlar todas las variables que afectan a un hecho o situación (¿Invierto en una empresa tecnológica? y me proponen no hacerlo según un algoritmo matemático), así, si el resultado o decisión que arroja puede producir un quebranto evidente (La empresa resulta ser un éxito total), tan sólo se limitará a actualizar el valor de alguna variable en sus algoritmos para la próxima vez (pero yo he dejado de obtener un beneficio).
Deshumanizan las relaciones comerciales
Deshumanización en cuanto a que se trata de procesos en el que los seres humanos ya no son indispensables y son sustituidos por una máquina.
Desde el punto de vista financiero y operativo, esto puede ser positivo para el negocio de bancos u otras empresas; pero muchas personas aún esperan interactuar con personas de carne y hueso antes que con máquinas a la hora de cerrar tratos, comprar productos o querer solucionar un problema con algún servicio.
Quiero hablar con un gestor de atención al cliente para darme de baja del servicio que tengo contratado con la empresa; pero esta sólo cuenta con un sistema de respuestas grabadas entre las que no se encuentra este tema y no me llevan a ninguna parte.
He ido al banco y no he podido hablar con ningún empleado porque únicamente hay asistentes virtuales que no han sido programados correctamente.
También los humanos deberemos aprender de estos escenarios y nos abstendremos de establecer relaciones comerciales con empresas que usen estas prácticas.
Crea una gran dependencia
Ya hemos hablado de la complejidad de las tecnologías IA desarrolladas por las grandes empresas del sector. No todas las empresas son capaces de generar algoritmos de inteligencia artificial propios que sean competitivos y útiles.
Al depender de prestadores de servicio o software externos, las empresas pierden el control de sus procesos internos y su gestión está supeditada a que sus prestadores de servicios estén actualizados y operativos.
Cuando hablamos de la dependencia de las empresas, las que suministran productos y servicios a las necesidades humanas, hablamos de dependencia de todo el mundo.
Crean brechas digitales
Si bien la inteligencia artificial promete grandes beneficios para todos, lo cierto es que no todas las personas confían en el uso de estos sistemas. La falta de formación e información de los clientes hará aumentar la brecha digital. Mayor brecha y mayor número de personas incluida en ella.
La privacidad de los datos personales
Hay que pensar en la educación digital de los ciudadanos, para que sean conscientes de las decisiones que les afectan en el tratamiento de sus datos y del valor de sus datos. Algunos de los servicios más populares de internet – redes sociales, buscadores y aplicaciones – parecen ser totalmente gratuitos, cuando en realidad los consumidores están entregando sus datos como forma de pago, aun sin saberlo.
Problemas de responsabilidad ética y legal
Actualmente no todos los países cuentan con marcos normativos para su regulación. En la Unión Europea contamos con regulación para diferentes industrias, como la alimentaria y sanitaria, para la protección de los ciudadanos.
Cabe destacar la nueva norma del Reglamento General de Protección de Datos (RGPD), que ha establecido un alto nivel de protección de la privacidad de los datos personales en la UE que ayudará a crear confianza en el uso de la tecnología. Los responsables del uso de la IA tendrán que afinar mucho para no entrar en conflicto con los principios fundamentales de esta norma, como son, la minimización de datos o la especificidad del consentimiento.
El uso de la IA en la UE estará regulado por la Ley de Inteligencia Artificial, la primera ley integral sobre IA del mundo. Propone que los sistemas de IA que puedan utilizarse en distintas aplicaciones se analicen y clasifiquen según el riesgo que supongan para los usuarios. Los distintos niveles de peligro implicarán una mayor o menor regulación.
Esperemos que a la vez que se desarrolla la tecnología de la Inteligencia Artificial, en paralelo, se vayan solventando todos estos inconvenientes.
