Galtea

Implementar, monitorear y evaluar de manera efectiva modelos de IA generativa

Institución:

Institution

Grupo de investigación:

Language Technologies

Investigador/es:

Jorge Palomar, Baybars Külebi

Galtea

Descripción:

Galtea presenta una plataforma desarrollada por BSC-CNS para implementar, monitorear y evaluar de manera efectiva modelos de IA generativa, proporcionando un enfoque sistemático para evaluar el cumplimiento de las últimas regulaciones de la UE. El objetivo principal es acelerar la introducción en el mercado de productos basados en IA manteniendo al mismo tiempo el cumplimiento del panorama regulatorio.

Tipo de activo:

Servicio

Categoría:

Life Sciences

Problema:

En el panorama de la Inteligencia Artificial en rápida evolución, los avances tecnológicos están superando los marcos regulatorios, creando una brecha crítica en el cumplimiento. En diciembre de 2023, se alcanzó en el Parlamento Europeo un acuerdo provisional sobre el "Reglamento de Inteligencia Artificial", cuyo objetivo es garantizar que los sistemas de IA introducidos en el mercado europeo respeten los derechos fundamentales y los valores de la UE. Esto significa que las empresas pronto enfrentarán la difícil tarea de garantizar que sus modelos de IA cumplan con estos nuevos estándares, lo que requerirá un amplio conocimiento y experiencia en cumplimiento para evitar posibles obstáculos legales y sanciones financieras.

Solución:

La tecnología está diseñada como una plataforma de cumplimiento con un componente importante de la plataforma de visibilidad del modelo de IA (MLOps). Es decir, la plataforma está destinada no solo a ayudar a los modelos en algunas de sus etapas más importantes (capacitación, implementación, evaluación, monitoreo), sino a garantizar que cada una de estas etapas cumpla con los requisitos de la Ley de IA u otras leyes que puedan ven a jugar. Esto permite, por un lado, asegurar la transparencia y trazabilidad de todo el ciclo de vida de un producto basado en IA y, por otro, evaluar la seguridad, los sesgos o la toxicidad, entre otros, del resultado final.

Áreas de aplicación:

Empresas con múltiples sistemas de IA que necesitan herramientas integrales de evaluación del cumplimiento que puedan integrarse en múltiples productos y departamentos. Empresas emergentes con productos de IA de alto riesgo que necesitan soluciones de cumplimiento accesibles, eficientes y rentables que permitan una entrada rápida al mercado sin comprometer las obligaciones regulatorias. o inversores que necesitan realizar evaluaciones transparentes y confiables del cumplimiento y riesgo de la IA para garantizar la viabilidad de la inversión y la rentabilidad a largo plazo, entre otros.

Novedad:

La singularidad de nuestra tecnología es que evalúa el cumplimiento de los modelos GenAI, con especial atención a los LLM, de forma cuantificable, técnica y automática, e integra elementos de MLOps para facilitar su aplicación en el ciclo de vida de los productos basados en IA.

Protección:

Software propietario

Mercado objetivo:

Grandes empresas con múltiples productos/sistemas de IA, startups con productos de IA de alto riesgo, inversores o compañías de seguros que analizan los riesgos de los productos, desarrolladores de LLM/proveedores de API, representantes autorizados, bufetes de abogados o empresas de consultoría empresarial/de TI.

Keywords:

Cumplimiento de IA, Ley de IA, gobernanza de IA, gestión de riesgos de IA, MLOps, observabilidad de LLM, implementación de LLM

TRL: 4

CRL: N/A

BRL: N/A

IPRL: N/A

TmRL: N/A

FRL: N/A

Más información

Si quieres saber más sobre este proyecto no dudes en contactarnos

Contáctanos