8 de agosto de 2024
Cómo la IA cambiará el panorama de riesgos
Un nuevo informe de Swiss Re (“Cambios tecnológicos: Cómo la IA podría cambiar el panorama de riesgos de la industria”) analiza el riesgo que la IA representa para diez importantes industrias. También identifica las oportunidades para que las aseguradoras ayuden a sus clientes a mitigar estos riesgos.
Una estimación sugiere que la IA generativa, una subrama de la IA, podría aportar por sí sola entre 2,6 y 4,4 billones de dólares anuales a la economía mundial. Sin embargo, el informe señala que la IA no se diferencia de otras tecnologías: puede fallar.
Podría fallar en los parámetros de rendimiento; podría perpetuar inadvertidamente la discriminación; podría ser objeto de ataques maliciosos; o tal vez causar daños reales. Dondequiera que haya oportunidades —y las oportunidades son enormes—, habrá riesgos.
El informe clasifica diez industrias principales en términos de exposición al riesgo de IA, tanto a corto como a largo plazo. Basándose en datos y ejemplos anecdóticos, estos son sectores donde el riesgo de IA está más concentrado actualmente, tanto por frecuencia como por gravedad; y donde podría volverse más frecuente con el tiempo. A continuación, se presentan algunos puntos destacados:
Tecnología: Este sector no debería sorprender a nadie dado su papel como desarrollador de sistemas de IA.
Energía y servicios públicos: El riesgo en este caso debería ser relativamente bajo, aunque es probable que cualquier incidente sea de alta gravedad. La frecuencia aumentará a medida que la IA se implemente más ampliamente en las redes inteligentes.
Medios y comunicaciones: Existe una exposición a corto plazo al riesgo de propiedad intelectual, lo que refleja la reciente incorporación de la IA generativa y la situación legal del uso de materiales protegidos por derechos de autor para el entrenamiento de grandes modelos lingüísticos (LLM). A medida que el uso de la IA se generalice, los riesgos se distribuirán mejor entre los sectores.
Atención sanitaria y productos farmacéuticos: Se espera que el riesgo de la IA para estas industrias sea prominente debido a una combinación de 1) alta frecuencia de incidentes potenciales, dada una gran cantidad de aplicaciones en la cadena de valor de la salud que podrían usar IA; y 2) pérdidas potencialmente de alta gravedad (por ejemplo, lesiones corporales, responsabilidad profesional).
Así es como Swiss Re clasifica la exposición al riesgo de IA por industria en la actualidad y en el futuro cercano (la clasificación estimada en diez años aparece entre paréntesis).
- (4) Servicios de TI
- (3) Energía y servicios públicos
- (1) Salud y farmacia
- (10) Otros servicios (comercio minorista, hostelería, jurídico)
- (2) Movilidad y transporte
- (7) Servicios financieros y de seguros
- (6) Gobierno y educación
- (8) Fabricación
- (5) Medios y comunicaciones
- (9) Agricultura, alimentos y bebidas
Perspectivas a largo plazo
En general, los riesgos relacionados con la ética, los sesgos y la privacidad serán más prominentes a corto plazo. A medida que se establezcan los modelos de IA, el peligro reside en que las deficiencias existentes en el almacenamiento y análisis de datos se consoliden. Los sectores que manejan datos personales sensibles, como el sanitario, el financiero o el jurídico, son particularmente vulnerables. A largo plazo, el riesgo de rendimiento cobrará mayor importancia. Suponiendo que se puedan solucionar los problemas iniciales en la creación de modelos de IA, el riesgo de rendimiento se convertirá en la categoría de riesgo dominante. Esto ocurrirá especialmente en la producción en sistemas cerrados, como la agricultura o la manufactura. Puede descargar una copia de «AI and the industry risk perspective» de Swiss Re aquí: https://tinyurl.com/undj6wxp
Para mitigar estos desafíos, las compañías de seguros deben priorizar el desarrollo de IA ética, aprovechar datos de capacitación diversos y representativos, evaluar y auditar sus sistemas de IA de manera consistente a través de un modelo de gobernanza sólido y mantener la transparencia en la toma de decisiones.