El Fondo Monetario Internacional (FMI), señaló los riesgos en aumento de la IA Generativa en la industria financiera. Efectivamente, aunque las directrices que rigen el uso de la IA en el sector de servicios financieros continúan evolucionando, algunos reguladores han destacado que los marcos legales existentes ya abordan muchos de los riesgos asociados con el desarrollo y el uso de la IA Generativa.
En este caso, el informe del FMI, advierte que la privacidad de datos y la ciberseguridad se encuentran entre los primordiales riesgos que surgen en el contexto de la IA Generativa. Y lo que ha indicado puede ayudar a participar las acciones que las empresas deberán tomar al desarrollar la tecnología o implementarla en servicios financieros.
Informe del FMI resalta las implicaciones económicas de la IA Generativa en el ámbito financiero
A todo esto, los autores del informe, Ghiath Shabsigh y El Bachir Boukherouaa, advierten sobre los peligros de las últimas herramientas de la IA en el mundo financiero.
De acuerdo al informe, los autores señalan que los sistemas generativos de la IA toman cantidades de datos en líneas, lo que genera preocupaciones sobre violaciones de la privacidad. Asimismo, la capacidad de los sistemas para generar contenido nuevo, implica que podrían producir información plausible pero inexacta.
De hecho, en el informe se afirma: «Los sistemas públicamente disponibles plantean importantes desafíos de privacidad para las instituciones financieras que desean incorporar sus capacidades a sus operaciones. Por lo tanto, esta automatización plantea la posibilidad de que filtren datos financieros confidenciales e información personal proporcionada».
En sí, el informe advierte que estos problemas podrían socavar la confianza pública si la IA Generativa se implementa de manera irresponsable en las finanzas. Por ejemplo, los chatbots podrían proporcionar asesoramiento financiero erróneo.
Enfrentando la amenaza: La necesidad de supervisión humana y regulación en la era de la IA Generativa
En el mismo sentido, Ghiath Shabsigh y El Bachir Boukherouaa, enfatizan que la ciberseguridad es otra preocupación, ya que la IA Generativa podría estallar para crear intentos de phishing más sofisticados.
Los modelos actuales de IA Generativa están cada vez más sujetos a ataques. Estos ataques se basan en el desarrollo de conjunto de indicaciones cuidadosamente diseñadas para eludir las reglas.
FMI
Por consiguiente, para aminorar los riesgos, los autores recomiendan:
- Precisa supervisión humana de los sistemas de Inteligencia Artificial.
- Mejorar la aplicabilidad de la toma de decisiones de la IA.
- Fortalecer la capacidad regulatoria y promover la colaboración internacional en la gobernanza de la IA.
Para finalizar, los autores reconocen el potencial de la IA Generativa. Sin embargo, enfatizan la necesidad de un enfoque cauteloso, particularmente en el sector de las finanzas.
Me despido con esta frase de Chris Duffey: «El único límite para la IA es la imaginación humana».
