Safexplain DIVRED: Software-only image transformation-based AI diverse redundancy

Redundància diversa d'IA basada només en transformació d'imatges de programari

Institució:

Grup d´investigació:

BSC Group: High-Performance Embedded Systems Lab

Investigador/s:

Martí Caro Roca, Axel Brando Guillaumes, Jaume Abella Ferrer, Jordi Fornt Mas

Descripció:

SafeExplain-DIVRED millora la fiabilitat dels sistemes de visió per IA provant múltiples variacions equivalents de la mateixa imatge d'entrada i combinant els resultats. Els enfocaments de combinació intel·ligents permeten filtrar els resultats problemàtics a causa de limitacions del model, errors aleatoris o fins i tot atacs adversaris. Aquest enfocament afegeix una capa de seguretat sense modificar el model original, donant suport a una IA fiable. Es pot aplicar a qualsevol model de detecció d'objectes i es pot portar a pràcticament qualsevol plataforma.

Proposta de valor:

Afegeix un embolcall de seguretat en temps d'execució a qualsevol model d'IA, sense necessitat de reentrenament.

Àrees d'aplicació:

Percepció i planificació de vehicles autònoms, visió robòtica quirúrgica, inspecció de defectes industrials, detecció i evitació de UAV, assistents de LLM legals/mèdics, detecció d'anomalies en infraestructures crítiques.

Mercat objectiu:

Fabricants d'equips originals (OEM) de robots i Tier-1 que implementen models de visió/PLN; fabricants de dispositius mèdics segons la norma IEC 62304 i MDR; piles d'autonomia de satèl·lits i UAV aeroespacials; proveïdors de núvol i edge que ofereixen serveis d'"IA regulats".

Technology Readiness Level (1-9): N/A

Protection:

Proprietary software

Més informació

Si vols saber més sobre aquest projecte no dubtis en contactar amb nosaltres

Contacta´ns