RAI, la IA que quiere que la usemos de forma responsable

El sector de los seguros jugará un papel clave en el futuro. Esa es la conclusión a la que han llegado los cientos de asistentes al ITC DIA EUROPE, patrocinado por Mapfre, entre otras entidades. Esta cita internacional celebrada en la Fira de Barcelona durante el 28 y 29 de junio fue el escenario elegido por la compañía aseguradora española para presentar dos importantes informes que abordan de manera integral tanto la necesidad de la incorporación de una inteligencia artificial (IA) responsable en las empresas como el estado actual de la inversión de tecnología aplicada a los seguros (insurtech).

El primero de los documentos presentados, Inteligencia artificial responsable. Tecnología confiable, segura y sostenible para generar la economía del futuro, explora el rol que pueden desempeñar las aseguradoras en esta situación de alta incertidumbre y expectación. A través de entrevistas a expertos industriales, grandes empresas de diversos sectores y geografías, y startups especializadas en servicios específicos en el ámbito de la Inteligencia Artificial Responsable (RAI, por sus siglas en inglés), la compañía concluye que la IA debe desplegarse con responsabilidad, de manera segura y confiable para generar un impacto positivo.

Para ello, todos los agentes implicados o relacionados con la IA deben trabajar juntos, tal y como afirmó Bárbara Fernández, directora adjunta de Mapfre Open Innovation, durante la presentación del informe en el encuentro internacional. “La mayoría de las empresas están aprendiendo a utilizar esta tecnología, aplicándola a casos de uso en entornos de prueba o con impactos muy controlados. Por esta razón se tiene cierta percepción de control sobre los riesgos asociados a la IA en el entorno empresarial, pero todos coinciden en que son necesarios marcos de trabajo, herramientas, directrices y regulación para ayudar en este despliegue”, afirmó durante la presentación.

En este sentido, los organismos reguladores están centrando sus esfuerzos en habilitar normativas y legislación que protejan a los individuos y a la sociedad ante posibles usos inadecuados de esta tecnología, pero la incertidumbre -sobre todo en lo que se refiere a la asignación de responsabilidades- sigue siendo enorme, tal y como recoge el propio informe.

Preparados para enfrentar los riesgos

A tenor de los resultados obtenidos y de un análisis de la realidad presente, desde Mapfre aseguran que el uso de la IA para generar ahorros y beneficios crecerá de manera incontestable mientras que, al mismo tiempo, aumentará la exposición a riesgos asociados.

Fernández también explicitó algunos de los riesgos que conlleva el uso de la IA en varios ámbitos, como el operativo, el ético y el regulatorio. En el caso de las organizaciones, estas se enfrentan a posibles pérdidas económicas, operativas, conflictos legales y reputación. Respecto a los individuos, los posibles daños están relacionados con la integridad física, la seguridad digital, la privacidad, la salud financiera y la discriminación. En cuanto a lo que la sociedad se refiere, la IA podría llegar a alterar la seguridad nacional, provocar inestabilidad económica y política, incrementar el impacto medioambiental y poner en duda la integridad de las infraestructuras de un país.

“A su vez, la confianza de las organizaciones en la IA y su percepción de la tecnología como driver fundamental de su crecimiento están impulsando el aumento de las inversiones”, recoge el informe. Además, el 60% de las empresas aumentará su inversión en IA en los próximos años y se prevé que el mercado ligado a esta tecnología alcance los 1.591 mil millones de dólares en 2030.

Una de las cuestiones estudiadas por la compañía de seguros es el impacto de la IA generativa, totalmente disruptiva a nivel mundial. “El debate sobre las implicaciones de esta tecnología se centra en su impacto en el marco laboral, la creación de contenido falso o en la gestión de la propiedad intelectual, así como en la protección de los datos, entre otros ámbitos”, añaden en el documento.

Una IA con responsabilidad

Es aquí donde aparece la RAI, la IA responsable, para garantizar que la tecnología se desarrolla y opera siempre buscando un impacto positivo y protegiendo a los individuos de la sociedad. El sector de la tecnología, los medios y las telecomunicaciones está a la cabeza (donde el 92% de las compañías con IA desplegada a escala tienen sistemas de RAI en estado avanzado o en desarrollo), seguido del sector farmacéutico y, en tercer lugar, salud.

Ante este estadio, Luis Aranda, en representación del organismo europeo OECD, recalcó que los principales objetivos de la RAI se centran en la mitigación del sesgo en los datos y el algoritmo, la transparencia, la protección de privacidad y seguridad del dato, el impacto ético en clientes y sociedad, el cumplimiento de la regulación vigente y la consecución de impacto en el negocio.

La mitigación del sesgo en los datos y el algoritmo o la transparencia son algunos de los objetivos que persigue la RAI

Las grandes posibilidades que abre la implementación de esta tecnología para una compañía hacen que sean estas organizaciones las que se anticipen a la regulación a través del fomento interno de políticas de RAI. Para ello, contratan equipos especializados en ética y datos a la vez que establecen colaboraciones con centros de investigación. Así es como emergen los proveedores de soluciones y servicios de despliegue de IA, unos players que poco a poco adquirirán más importancia.

“Los actores incumbentes en servicios legales, de asesoramiento o evaluación de riesgos (grandes empresas de servicios profesionales como consultoras o bufetes de abogados) están complementando su enfoque tradicional con capacidades específicas centradas en los riesgos de la IA”, ejemplifican en el informe.

En el mismo plano, también surgen diferentes startups especializadas en oferta de RAI. “Existen de varios tipos: aquellas centradas en la selección y procesamiento de los datos que garantizan que el proceso se hace de forma responsable; aquellas que ofrecen capacidades automatizadas de observabilidad y explicabilidad de los modelos; y aquellas especializadas en la gobernanza y cumplimiento de la IA”, explicó Adriano Koshiyama, CEO de Holistic AI.

¿Quién controla los riesgos?

El informe también indica que, a día de hoy, “existe cierta percepción de control de los riesgos de la IA por parte de las empresas, aunque la ausencia de regulación y guías prácticas para el buen uso de la IA preocupa a la mayoría”. Así pues, especial cautela en su adopción, alcance limitado a usos poco críticos, supervisión humana de la toma de decisiones o un estricto control de los riesgos son algunos de los factores que contribuyen a que las empresas tengan cierta percepción de control de los riesgos de la IA.

Por último, concluye que su potencial ha despertado el interés de todos los sectores, pero pocas compañías lo están explotando al máximo. “Las organizaciones están identificando casos de uso relevantes y enfrentándose a barreras, limitaciones internas y dificultades para su despliegue”, esgrimen desde Mapfre, asegurando que la previsión de inversión y crecimiento en implantación de la IA se mantiene.

Insurtech' representa una oportunidad de siete billones de dólares, por encima de otros como el de la movilidad o el de los servicios financieros

“La IA generativa, como ChatGPT ha puesto la potencia de esta tecnología al alcance de todo el mundo, abriendo un nuevo debate sobre los riesgos asociados”, por lo que la presión regulatoria, el aumento de madurez y la democratización de la IA son drivers fundamentales de la percepción de los riesgos asumidos con su uso. “La regulación pone el foco en evitar la discriminación, generar mecanismos de gestión y mitigación de riesgos y potenciar la transparencia. No existe consenso en la asignación de responsabilidades”, aducen como una de las conclusiones.

Del mismo modo, en un contexto en el que aumentan la adopción de la IA y la presión regulatoria, se hace más evidente para las organizaciones la necesidad de adoptar políticas de RAI. Asimismo, la automatización de procesos end to end y la regulación específica sobre esta tecnología son los que marcarán la demanda de seguros de IA. La compañía aseguradora concluye que alrededor de este concepto de RAI empiezan a aparecer jugadores con una oferta específica centrada en ayudar al despliegue de la inteligencia artificial, controlando los riesgos en los tres planos: operativo, ético y regulatorio.

El sector insurtech retrocede hasta 2018

Esta compañía de seguros es una de las que ha participado en el informe The State of Global Insurtech, elaborado junto a Dealroom.co, Mundi Ventures, NN Group y Generali. La investigación deduce que el primer semestre de 2023 cierra con una inversión en tecnología aplicada a los seguros (insurtech) de 2.400 millones de dólares, un 45% menos que en el mismo periodo de 2022 y alcanzando cifras similares a 2018 (1.800 millones de dólares).

Este retroceso se ha producido, principalmente, en startups con mayor grado de madurez (caída del 62% respecto a máximo histórico), mientras que en aquellas en fase temprana se sitúa en un 29%. La financiación de estas últimas y el aumento de la valoración de las principales insurtechs privadas demuestran que aún hay recorrido en el mercado.

Por otra parte, insurtech representa un mercado de oportunidad de siete billones de dólares, muy por encima de otros como el de la movilidad o el de los servicios financieros, si bien ambos han recibido cinco y diez veces más financiación, respectivamente. “Las IAs generativas, como es ChatGPT, también abren nuevas puertas, aunque aún se desconoce qué procesos se verán más afectados por ellas”, añade el documento.

En cuanto a la perspectiva geográfica, Estados Unidos continúa siendo la región líder para este tipo de inversiones en 2023. Sin embargo, Asia es la que está experimentando un mayor crecimiento (58% en el primer semestre de 2023 vs el primer semestre de 2022). En Europa, Reino Unido, Alemania y Francia atraen el 80% de la financiación. Italia, Países Bajos y Estonia se sitúan a la cabeza en crecimiento de rondas de financiación de startups en fase inicial; España, por su parte, ha financiado más de 40 startups, invirtiendo 156 millones de dólares desde 2020.

En lo que respecta al ecosistema insurtech latinoamericano, el primer semestre de 2023 muestra un repunte parcial de la financiación (79 millones de dólares de inversión), aunque bastante lejos del máximo alcanzado hace un año. Esta región levantó una inversión de 239 millones de dólares en 2022. “En Latinoamérica, Brasil es el país que está liderando la inversión en insurtech: 8 de cada 10 de las startups mejor valoradas de la región son de allí. El resto de países está invirtiendo, aunque de momento no llegan al nivel brasileño”, explicó Carlos Cendra, responsable de relaciones con startups de Mapfre Open Innovation, durante la presentación del informe.

Joan Cuscó, director global de Transformación de la compañía, concluyó que “las aseguradoras aún tienen mucho margen para adoptar soluciones insurtech que estén listas para desplegarse a escala” y que “esto crea una enorme oportunidad para sacar el máximo partido a las startups que ofrezcan soluciones de automatización de siniestros y pagos la suscripción y la tarificación”. Bajo su punto de vista, la transformación del sector es imparable.