Propos introductifs. La plupart des systèmes d'intelligence artificielle sont élaborés soit pour aider l'utilisateur à faire des choix, soit pour prendre des décisions à la place de celui-ci. Ils sont utilisés pour collecter et comparer des données. De manière générale, les systèmes d'intelligence artificielle correspondent, selon les termes proposés par le groupe d'experts sur l'intelligence artificielle mis en place par la Commission européenne, à : « des systèmes logiciels (et éventuellement

more »

... matériels) conçus par des êtres humains et qui, ayant reçu un objectif complexe, agissent dans le monde réel ou numérique en percevant leur environnement par l'acquisition de données, en interprétant les données structurées ou non structurées collectées, en appliquant un raisonnement aux connaissances, ou en traitant les informations, dérivées de ces données et en décidant de la (des) meilleure(s) action(s) à prendre pour atteindre l'objectif donné » 1 . Ces systèmes ont désormais intégré nos activités quotidiennes, des plus coutumières aux plus stratégiques (GPS automobile, finance, environnement et développement durable, domaine spatial, politiques publiques, gestion des ressources hospitalières, enceintes connectées, etc.) 2 . Pour illustrer les enjeux sur le terrain de la santé, il peut être pris en exemple les systèmes d'aide au diagnostic médical 3 . Ces derniers soulèvent des questions essentielles : Qui est responsable des mauvais choix opérés par le système (le programmeur, l'exploitant, le propriétaire, le médecin, le patient, etc.) ? Quid de la responsabilité du médecin qui ne se conformerait pas dans son diagnostic à celui délivré par le logiciel et qu'il se révèle préjudiciable au patient ? Le médecin doit-il être le seul responsable de l'utilisation du logiciel si elle entraîne un effet négatif pour le patient ? * Maître de conférences à l'Université de Bretagne occidentale, LabLex EA 7480.