Institució:
Les tècniques d'aprenentatge profund (DL) es troben al cor de la majoria de les funcions de programari avançades del futur en sistemes crítics basats en IA autònoms (CAIS), on també representen un factor competitiu important. Per tant, l'èxit econòmic de les indústries CAIS (per exemple, l'automoció, l'espai, el ferrocarril) depèn de la seva capacitat per dissenyar, implementar, qualificar i certificar productes de programari basats en DL sota un esforç/cost limitat. Tanmateix, hi ha una bretxa fonamental entre els requisits de seguretat funcional (FUSA) sobre CAIS i la naturalesa de les solucions de DL. Aquesta bretxa prové del procés de desenvolupament de biblioteques DL i afecta conceptes d'alt nivell com ara (1) explicabilitat i traçabilitat, (2) adequació per a diferents requisits de seguretat, (3) implementacions compatibles amb FUSA i (4) restriccions en temps real. . De fet, la naturalesa estocàstica i dependent de les dades dels algorismes de DL xoca amb la pràctica actual de FUSA, que es basa en un programari basat en proves determinista, verificable i d'aprovació/falla.
