Étapes vers une intelligence artificielle robuste

Les avancées récentes en intelligence artificielle encouragent les gouvernements et les entreprises à déployer l'IA dans des contextes à enjeux élevés, notamment la conduite autonome de voitures, la gestion du réseau électrique, le trading sur les bourses et le contrôle des systèmes d'armement autonomes. De telles applications nécessitent que les méthodes d'IA soient robustes face à la fois aux inconnues connues (ces aspects incertains du monde sur lesquels l'ordinateur peut raisonner explicitement) et aux inconnues inconnues (ces aspects du monde qui ne sont pas capturés par les modèles du système). Cet article discute des progrès récents en IA et décrit ensuite huit idées liées à la robustesse qui sont poursuivies au sein de la communauté de recherche en IA. Bien que ces idées soient un début, nous devons accorder plus d'attention aux défis liés aux inconnues connues et inconnues. Ces questions sont fascinantes, car elles touchent à la question fondamentale de savoir comment des systèmes finis peuvent survivre et prospérer dans un monde complexe et dangereux.