Safexplain DIVRED: Software-only image transformation-based AI diverse redundancy

Redundancia diversa de IA basada en transformación de imágenes solo por software

Institución:

Technology

Grupo de investigación:

BSC Group: High-Performance Embedded Systems Lab

Investigador/es:

Martí Caro Roca, Axel Brando Guillaumes, Jaume Abella Ferrer, Jordi Fornt Mas

Descripción:

SafeExplain-DIVRED mejora la fiabilidad de los sistemas de visión artificial mediante la comprobación de múltiples variaciones sutiles equivalentes de la misma imagen de entrada y la combinación de los resultados. Los métodos de combinación inteligente permiten filtrar los resultados problemáticos debidos a limitaciones del modelo, errores aleatorios o incluso ataques maliciosos. Este enfoque añade una capa de seguridad sin modificar el modelo original, lo que contribuye a una IA fiable. Se puede aplicar a cualquier modelo de detección de objetos y se puede adaptar a prácticamente cualquier plataforma.

Propuesta de valor:

Agregue un envoltorio de seguridad en tiempo de ejecución a cualquier modelo de IA, sin necesidad de reentrenamiento.

Áreas de aplicación:

Percepción y planificación de vehículos autónomos, visión para robots quirúrgicos, inspección de defectos industriales, detección y evasión de obstáculos mediante vehículos aéreos no tripulados (UAV), asistentes legales/médicos para la gestión de casos (LLM), detección de anomalías en infraestructuras críticas.

Mercado objetivo:

Proveedores de nivel 1 del sector automotriz y fabricantes de equipos originales de robótica que implementan modelos de visión/PNL; fabricantes de dispositivos médicos bajo las normas IEC 62304 y MDR; plataformas de autonomía para UAV y satélites aeroespaciales; proveedores de nube y borde que ofrecen servicios de "IA regulada".

Technology Readiness Level (1-9): N/A

Protection:

Proprietary software

Más información

Si quieres saber más sobre este proyecto no dudes en contactarnos

Contáctanos