Aseguradores de Lloyd's de Londres acaban de lanzar pólizas específicas para cubrir pérdidas empresariales causadas por el mal funcionamiento de herramientas de IA. Esta innovación, desarrollada por la startup Armilla, busca proteger a las compañías de demandas y costos legales cuando sus sistemas de IA no cumplen con las expectativas acordadas.
Las "alucinaciones" de los modelos de lenguaje han pasado de ser una curiosidad técnica a un riesgo financiero real. Casos como Air Canada, obligada a honrar descuentos inventados por su chatbot, o Virgin Money, cuyo asistente virtual reprendió a un cliente por usar la palabra "virgin", demuestran las costosas consecuencias de implementar IA sin las protecciones adecuadas.
Lo interesante de estas pólizas es que no cubren cualquier error, sino específicamente cuando el rendimiento de la IA cae por debajo de las expectativas iniciales. Por ejemplo, si un chatbot proporcionaba información correcta el 95% del tiempo y luego baja al 85%, la cobertura se activaría. Esto establece un nuevo estándar de responsabilidad para proveedores y usuarios de IA.
Los expertos señalan que las pólizas tecnológicas existentes incluyen límites muy bajos para incidentes relacionados con IA (apenas $25,000 dentro de coberturas de $5 millones). Con empresas acelerando la adopción de IA para mejorar eficiencia, esta innovación del sector asegurador podría facilitar implementaciones más seguras y responsables.
Este desarrollo marca el inicio de un nuevo mercado: la gestión financiera del riesgo asociado a las IA generativas. Los seguros ya no solo protegen contra riesgos tradicionales, sino también contra la impredecibilidad de algoritmos que aprenden y evolucionan continuamente.
