Safexplain DIVRED: Software-only image transformation-based AI diverse redundancy

Redundància diversa d'IA basada només en transformació d'imatges de programari

Institució:

Institution

Grup d´investigació:

BSC Group: Computer Sciences

Investigador/s:

Software Author:
Martí Caro Roca, Axel Brando Guillaumes, Jaume Abella Ferrer

Safexplain DIVRED: Software-only image transformation-based AI diverse redundancy

Descripció:

Observem que moltes funcionalitats emergents basades en IA són intrínsecament estocàstiques (p. ex., detecció d'objectes basada en càmeres) i, per tant, la seva correcció s'ha de jutjar semànticament, amb espai per a variacions entre els resultats correctes (p. ex., la confiança ha d'estar per sobre d'un llindar determinat).
A partir d'aquesta observació, proposem estratègies per crear implementacions DMR i TMR de funcionalitats basades en IA que aporten no només tolerància a errors contra errors aleatoris de maquinari, sinó també contra imprecisions dels models d'IA. Aquestes estratègies, que només es poden realitzar amb mitjans de programari i portar-les a pràcticament qualsevol plataforma informàtica, es basen en modificacions de les dades d'entrada que afecten els càlculs d'inferència, però no la sortida semàntica esperada (per exemple, la introducció d'algun soroll aleatori limitat a les dades d'entrada). A més, hem implementat una eina de processament d'imatge i vídeo destinada a facilitar la reproductibilitat dels nostres resultats d'avaluació i permetre que altres l'utilitzin i realitzin més investigacions sobre transformacions d'entrada.

Problema:

N/A

Solució:

N/A

Àrees d'aplicació:

N/A

Novetat:

N/A

Protecció:

Apache License (Version 2.0)

Mercat objectiu:

N/A

Keywords:

Artificial Intelligence, Software

TRL: N/A

CRL: N/A

BRL: N/A

IPRL: N/A

TmRL: N/A

FRL: N/A

Més informació

Si vols saber més sobre aquest projecte no dubtis en contactar amb nosaltres

Contacta´ns