Institución:
Las técnicas de aprendizaje profundo (DL) están en el centro de la mayoría de las futuras funciones avanzadas de software en sistemas críticos autónomos basados en IA (CAIS), donde también representan un factor competitivo importante. Por lo tanto, el éxito económico de las industrias CAIS (por ejemplo, automotriz, espacial, ferroviaria) depende de su capacidad para diseñar, implementar, calificar y certificar productos de software basados en DL con un esfuerzo/costo limitado. Sin embargo, existe una brecha fundamental entre los requisitos de seguridad funcional (FUSA) en CAIS y la naturaleza de las soluciones DL. Esta brecha surge del proceso de desarrollo de bibliotecas DL y afecta conceptos de alto nivel como (1) explicabilidad y trazabilidad, (2) idoneidad para diversos requisitos de seguridad, (3) implementaciones compatibles con FUSA y (4) restricciones en tiempo real. De hecho, la naturaleza estocástica y dependiente de los datos de los algoritmos DL choca con la práctica actual de FUSA, que en cambio se basa en software determinista, verificable y basado en pruebas de pasa/falla.
