IA gobernada: integración natural, actuación responsable
Entre la exigencia legal y la transformación organizativa
El gobierno de la IA no es sólo una necesidad organizativa, sino que las características propias del sector asegurador hacen que en muchos casos sea un requisito regulatorio. Pero dicho gobierno ha de integrarse en organizaciones ya existentes e imbricarse en el vasto marco legal del Seguro, al que ahora viene a sumarse el Reglamento Europeo de Inteligencia Artificial (RIA). De este y otros temas de interés se habló en la jornada de Innova-tsn.
Carlos R. Larrea, business development manager de Innova-tsn, explicó que el RIA es un marco regulatorio que exige concienciar, capacitar e informar a toda la cadena de valor sobre el uso de la IA, además de gestionar el riesgo y registrar y documentar todo para demostrar una gestión diligente. Asimismo, facilita directrices y recomendaciones y códigos de buenas prácticas, además de impulsar la creación de entidades y entornos de pruebas a nivel nacional y europeo.
El RIA también clasifica los sistemas de IA atendiendo a sus riesgos de uso, estableciendo cuatro categorías: riesgo inaceptable, prohibido en toda la UE; y alto riesgo, riesgo limitado y riesgo mínimo, cuya utilización está permitida, siempre y cuando se cumplan determinadas exigencias.
De este modo, cada sistema de IA tiene sus particularidades, dependiendo del sector en el que se despliegue, datos empleados, interacción que tiene con los usuarios, nivel de automatización de las acciones o capacidad de decisión.
Claves del RIA
A continuación, Jesús Cariño, senior data scientist especializado en IA de Innova-tsn, ofreció algunas claves para la adopción de la IA. Indicó que lo primero que se ha de hacer es identificar los riesgos, para lo cual podemos recurrir a diferentes marcos de categorización de los mismos: riesgos técnicos, sociales, empresariales (privacidad y seguridad, gobernanza, estratégicos y de competencia, legales y de cumplimiento, reputacional…), específicos de la IA (privacidad y seguridad, calidad y confidencialidad, propiedad intelectual y otros riesgos legales, económicos…), etc.
Una vez identificados, hemos de gestionarlos. Para ello, el marco de gestión de riesgos de la IA (AI RMF) del NIST establece cuatro funciones fundamentales: gobierno (políticas, estructura, cultura), mapeo (análisis del contexto donde funcionará el sistema), gestión (priorización de riesgos y acciones para mitigarlos) y medición de los riesgos (monitorización de los riesgos).
También especificó los ocho fundamentos de una IA responsable: privacidad, seguridad, confiabilidad, equidad y justicia, explicabilidad e interpretabilidad, transparencia, atribución y sostenibilidad. Además, recordó que el gobierno de la IA tiene dos dimensiones: una institucional o corporativa, que aborda aspectos organizativos, estructurales y de políticas; y otra operativa, que contempla aspectos técnicos, metodológicos y de implementación.
Finalmente, indicó que existen diferentes estrategias de implantación del gobierno de la IA, dependiendo de si se prioriza el desarrollo de casos de uso, la gestión del cambio en la organización, etc. Y cada una cuenta con determinadas ventajas y encaja mejor dependiendo del sector, la madurez tecnológica de la empresa, sus necesidades, etc.
El reto del gobierno de la IA
Después se celebró una mesa redonda conducida por Larrea, en la que varios especialistas en IA compartieron su punto de vista acerca del gobierno de la IA. Ana González de la Peña, head of Operations & Portfolio Management de Zurich Spain, insistió en que “hemos de tener un gobierno de la IA para evitar riesgos”. Sin embargo, Maite Sanz, abogada y fundadora del bufete Maite Sanz de Galdeano y Asociados, advirtió que “no estamos preparados” para el enjambre regulatorio en torno a los sistemas de IA. Así pues, anotó que uno de los mayores retos al implantar esta tecnología es “la inseguridad y el desconocimiento” de sus implicaciones legales y éticas. Asimismo, Asunción Gilsanz, chief information officer de la CNMV, expuso que “todavía no hay expertos en IA”, lo que complica su adopción.
Por otro lado, González de la Peña subrayó que las organizaciones están observando cierta resistencia al cambio por parte de los equipos, por lo que defendió el acompañamiento de los empleados en esta transformación. “Usar la IA es imprescindible y tenemos que adoptarla en nuestro día a día, adaptando nuestro modelo de gobierno, porque los riesgos existen”, declaraba. Además, recalcó que contar con un adecuado gobierno de la IA genera confianza entre los clientes y ayuda a tener unos procesos claros y más eficientes. “Vale la pena. Hay que apostar por ello”, sentenciaba.