Intelligence artificielle : et si on parlait éthique ?

L’IA est sous les feux des projecteurs depuis une poignée d’années. Longtemps balbutiante, elle est désormais partout : depuis nos poches via nos smartphones, jusque dans nos maisons avec la domotique. Elle accompagne l’explosion des datas dont elle sait tirer beaucoup, parfois pour le meilleur, mais parfois aussi pour le pire. Tout comme Jaana Sinipuro, Jean-Gabriel Ganascia nous invitera le 6 décembre prochain à prendre du recul, à comprendre les enjeux éthiques liés à ces technologies… et à nous en emparer.

Éthique et informatique : un duo récent

Quelques mots sur Jean-Gabriel Ganascia tout d’abord : informaticien et philosophe, il est président du COMETS (Comité d’éthique du CNRS), et membre de la CERNA (Commission de réflexion sur l’Éthique de la Recherche en sciences et technologies du Numérique d’Allistene).

« Tout a commencé il y a 17 ans », se souvient Jean-Gabriel Ganascia, alors chercheur en informatique. « J’ai été sollicité pour intervenir dans un colloque sur l’éthique des sciences. J’en étais surpris, car je ne pensais pas avoir grand-chose à apporter : si nous avions pu constater des expérimentations effroyables en médecine pendant la guerre, l’apparition des bébés éprouvettes, ou encore les découvertes des physiciens qui ont mené à la bombe atomique, nous, les informaticiens, nous sentions peu concernés par les questions d’éthique. » Jean-Gabriel Ganascia creuse le sujet : « je découvre que des chercheurs travaillent sur ces problématiques. Dans les pays anglo-saxons, mais pas en France. » Il ajoute : « la démarche n’était pas évidente, car les questions étaient alors très éloignées de celles que nous étions habitués à nous poser dans la communauté informatique. »

Les domaines qu’il explore paraissent aujourd’hui incontournables : la protection de l’intimité, de la vie privée, la propriété des données, la transparence… Sa double formation de technicien et de philosophe l’amène à apporter un éclairage nouveau sur cette question d‘éthique. Jean-Gabriel Ganascia se rapproche du CNRS, pour lequel il contribuera à la rédaction d’un rapport. Rapport qu’il présentera conjointement avec l’INRIA en 2009, qui travaille aussi sur ce sujet. De cette rencontre est née la CERNA, en 2012.

Éthique & IA, pour aujourd’hui… et pour demain

Jean-Gabriel Ganascia poursuit : « à l’heure actuelle, tous les yeux sont rivés sur ces enjeux éthiques. Car nous sommes dans une société numérique où l’IA transforme les relations entre les personnes. Et où les systèmes de décision sont fondés sur l’apprentissage des machines, et l’anticipation à partir de données passées. » Ce qui soulève une question sous-jacente : sommes-nous aussi libres que nous le pensons ?

« Les grands acteurs d’Internet expliquent qu’ils vont régler eux-mêmes les problèmes liés à la vie privée, à la transparence. Mais cela regarde l’ensemble du public », affirme Jean-Gabriel Ganascia. La solution ? Sensibiliser la population bien sûr, pour que tout un chacun s’empare de cet enjeu individuel et collectif. Et concevoir des dispositifs qui protègent les utilisateurs, comme le privacy by design ou l’ethics for design, qui embrassent cette dimension de l’amont à l’aval des projets. Jean-Gabriel Ganascia appelle même à la création d’un label de qualité, pour assurer la transparence dans l’exploitation des données privées.

Enfin, Jean-Gabriel Ganascia souligne un paradoxe : « nous sommes tous d’accord pour protéger notre intimité. Nous voulons aussi vivre plus en sécurité, en meilleure santé… Et nous souhaitons plus de transparence dans la vie publique. Or, ces exigences sont antinomiques. Les services ou applications que nous utilisons demandent donc que l’on transige entre ces aspirations. D’où la nécessité d’une réflexion sur les compromis acceptables. »