Création du comité pilote d’éthique du numérique

Catégorie: Communiqués, Grand public, Institutions, Mobilité

Une dimension nationale pour répondre à des enjeux éthiques majeurs

Le Comité Consultatif National d’Éthique pour les sciences de la vie et de la santé (CCNE) a été chargé par le Premier ministre de constituer un comité pilote d’éthique du numérique. Organisé sur le mode de fonctionnement du CCNE, ce comité pilote est constitué de personnalités d’horizons différents afin d’aborder de manière globale les enjeux éthiques du numérique et de l’intelligence  artificielle.  Ses  premiers  avis  porteront  sur  les  agents conversationnels, le véhicule autonome et le diagnostic médical à l’ère de l’intelligence   artificielle.   Il   mettra   également   en   place   les   moyens nécessaires  à  l’information  et  à  la  prise  de  décision  individuelle  et collective. Il tiendra sa première réunion plénière le 4 décembre 2019.

L’essor  des  sciences  et  technologies  du  numériques,  leur  diffusion  massive  et  la rapidité avec laquelle elles se développent sont sources de transformations dans toutes les sphères d’activité, qu’elles soient publiques ou privées. Les enjeux éthiques qui en résultent  concernent  toutes  les  composantes  de  la  société :  sociales,  sociétales, économiques, entrepreneuriales et individuelles.

Dans ce contexte, le Premier ministre a chargé le Comité Consultatif National d’Éthique pour les sciences de la vie et de la santé (CCNE) de constituer un comité pilote, dont l’objectif  est  « à  la  fois  de  remettre  des  premières  contributions  sur  l’éthique  du numérique et de l’intelligence artificielle et de déterminer les équilibres pertinents pour l’organisation du débat sur l’éthique des sciences et technologies du numérique et de l’intelligence   artificielle ».   Cette   initiative   s’inscrit   dans   la   stratégie   nationale d’intelligence artificielle et dans la continuité des recommandations du rapport « Donner un sens à l’intelligence artificielle » de Cédric Villani et de l’Avis 129 du CCNE. Celui-ci proposait en effet, en septembre 2018, « de jouer un rôle d’aide à la constitution d’un futur comité d’éthique du numérique, spécialiste des enjeux numériques dans leur globalité ».

Constitué d’environ 30 personnes et dirigé par Claude Kirchner, Directeur de recherche émérite Inria, ce comité pilote, qui est placé sous l’égide du CCNE, va fonctionner sur le modèle   de   celui-ci.   Pluridisciplinaire,   il   réunit   des   spécialistes   du   numérique, académiques ou issus des entreprises, des philosophes, des médecins, des juristes, des membres de la société civile ainsi que des membres du CCNE et de la CERNA1. Il associera dans les groupes de travail qui en seront issus des personnalités ayant une compétence dans les saisines traitées. Il a également pour mission de mettre en place les moyens nécessaires à la sensibilisation, à l’information et à la prise de décision des personnes,  entreprises,  administrations,  institutions  …  Il  travaillera  en  lien  avec plusieurs organisations, notamment la CNIL, l’Inria, le CNRS, la CPU, les Académies des Sciences  et  des  Technologies  ou  encore  le  CNNum 2 ,  ainsi  qu’avec  des  comités d’éthique français et étrangers. Le comité, qui est accueilli dans les locaux du CCNE – 66 rue de Bellechasse, Paris 7e – tiendra sa première réunion plénière le 4 décembre 2019.

Le  comité  pilote  d’éthique  du  numérique  portera  ses  premiers  travaux  sur  trois saisines :

–      Les agents conversationnels présents dans les téléphones, les interfaces avec les services en ligne ou encore les appareils domestiques tels les enceintes connectées. Les enjeux éthiques concernent la transparence sur le traitement des données récoltées, le respect des individus d’une part et la commodité de l’utilisation de telles applications de l’autre, ou encore la mise en œuvre de stratégies d’influence par de tels agents.

–      Le  véhicule  autonome :  le  comité  analysera  les  tensions  existantes  entre automatisation et maitrise humaine dans le contrôle du véhicule, ou encore les responsabilités  partagées  entre  constructeur,  assureur  et  utilisateur.  Ces réflexions seront menées en lien avec la mission confiée à Mme Anne-Marie Idrac3.

–      Concernant enfin le diagnostic médical et l’intelligence artificielle, il s’agira de discuter  la  tension  entre  proposition  de  décision  algorithmique  et  garantie humaine, de se demander quels sont les risques encourus lorsqu’on ne suit pas le  « conseil »  d’un  algorithme  de  prédiction  ou  encore  de  promouvoir  la transparence et l’explicabilité du fonctionnement de ces algorithmes tant pour les professionnels de santé que pour les usagers du système de santé.

Début 2021, le Comité pilote d’éthique du numérique remettra au Président du CCNE le bilan de ses activités. Le CCNE émettra ensuite des recommandations sur les modalités d’un éventuel comité pérenne d’éthique du numérique.

Liste des membres sous ce lien