N° 13 - Mars 2021 - Faire confiance au temps du numérique

Vers la confiance, voire la certification, des systèmes à base d’intelli­gences artificielles

Julien CHIARONI

Le fonctionnement sûr des logiciels est au coeur de nombreuses applications de tous les jours, qu’il s’agisse du transport (automobile, aviation, rail…), ou des dispositifs de santé. Toutefois, la question reste ouverte lorsque les systèmes intègrent de l’intelligence artificielle (IA). Pour y parvenir, le développement de lignes directrices en matière d'éthique et de confiance est un élément central en vue de définir des exigences requises et partagées. Toutefois, avant de mettre en oeuvre ces exigences ainsi que celles spécifiques à l’application et au contexte d’emploi, il est impératif de développer un cadre technique conduisant à revisiter l’ensemble de la chaîne de conception, d’évaluation et de déploiement des systèmes à base d’intelligence artificielle. Cela se traduit, d’une part, par le développement des briques logicielles permettant d’outiller l’ingénierie algorithmique et système de l’intelligence artificielle, et, d’autre part, par de nouvelles approches d’évaluation, voire de certification. C’est tout l’enjeu du « grand défi » que de lever ces verrous et permettre le déploiement de l’IA à de futurs produits et services, tout en garantissant la confiance nécessaire à l’acceptabilité sociale des futurs utilisateurs.

Télécharger gratuitement l'article

Retour au sommaire

N° 13 - March 2021 - Confidence and trust in the digital era

Building trust: Certifying systems based on artificial intelligence?

Julien CHIARONI

The security of everyday uses of software is a key question, whether in transportation (automobile, airplanes, trains) or the health sector. However this question has gone unanswered for systems that incorporate artificial intelligence (AI). A key for coming up with an answer is to work out ethical guidelines for building trust by defining a set of shared requirements. Before implementing these requirements and, too, the requirements related to specific applications and their use cases, a technical framework must be set up to review the whole AI chain from design through assessments to rollout. This means both developing the software bricks for algorithmic engineering and AI systems, and designing new approaches to product assessment and certification. The big challenge is to lift obstacles and enable the deployment of AI in future products and services while building the trust necessary for its acceptance by the eventual users.

Download full article