Meaningful Human Control
Contrôle humain sensé des systèmes à base d’intelligence artificielle
Le contrôle humain sensé (MHC) est apparu en 2016 comme un concept important pendant les réunions de spécialistes organisées par la Convention sur certaines armes classiques (CCW) des Nations unies. Bien que le concept ait été relié aux armes autonomes, il peut s’appliquer plus généralement aux systèmes militaires basés sur l’IA (à la fois physiques et informationnels) en tant qu’exigence cruciale pour préserver le comportement moral, la responsabilité et l’enveloppe de performance opérationnelle efficace de ces systèmes
L’objectif principal est d’apprendre de discussions menées au sein de plusieurs organisations et de pays afin d'extraire un ensemble de directives d’ordre pratique centrées sur l’humain pour éclairer les futures actions de l’OTAN dans ce domaine de plus en plus important.
Plusieurs thèmes d’étude sont abordés tels que les considérations organisationnelles, opérationnelles et des considérations liées à l’intégration Humain-Système en matière de MHC. Des directives de conception inspirées par les facteurs humains pour parvenir au MHC sont proposées, de même que des méthodes et indicateurs d’ingénierie des systèmes pour valider le MHC. D’autres thèmes sont également abordés comme l’exploitation du MHC par les adversaires, les systèmes sociotechniques complexes, ou encore la responsabilité morale au sein des équipes associant humains et IA.
Parmi les concepts étudiés, est principalement citée la confiance, à la fois entre l’humain et la machine et entre humains dans les limites de l’organisation ou du système de systèmes, et liées à ce concept les notions de performances perçues, d’utilité, mais aussi les approches en terme de certification, ou encore de gestions d’incertitude.
| Département(s) | Partenaire(s) | Montant global |
|---|---|---|
| Automatique |
6 k€
|
|
| Support principal | Rayonnement | Date(s) |
|
UPHF
|
International |
2020 - 2024
|