« L’intelligence artificielle est toujours potentiellement bêtise artificielle si elle n’est pas mise en débat » – Vincent Puig

Depuis 2007, Cap Digital et l’IRI (Institut de recherche et d’innovation du Centre Pompidou) organisent chaque année et juste avant la trêve des confiseurs, les Entretiens du Nouveau Monde Industriel. A l’approche de cette nouvelle édition, Vincent Puig, directeur exécutif de l’IRI, nous dévoile les dessous de ces nouveaux ENMI au titre prometteur : Bêtise et intelligence artificielles.

Vincent Puig

Vincent Puig, directeur exécutif de l’IRI

 

1 — Pourquoi avoir choisi de placer ces entretiens du nouveau monde industriel sous le signe de la bêtise (et de l’intelligence) artificielles ?

À la suite de la crise des subprimes en 2008 en grande partie causée par un enchaînement de décisions algorithmiques, Alan Greenspan a reconnu devant la commission d’enquête du Sénat américain un forme d’impuissance devant ce qui nous apparaît aujourd’hui comme une gigantesque « bêtise » artificielle. Dans un contexte croissant d’utilisation du traitement massif de données, nous entrons dans l’ère de ce qu’Antoinette Rouvroy a décrit comme la gouvernementalité algorithmique dans tous les domaines : médecine, droit, finance, économie… Si nous avons déjà abordé ces thèmes dans les précédentes éditions des entretiens industriels, c’est tout au long de cette année que nous avons travaillé d’une part sur la question des « boites noires » dans le champ scientifique (projet ANR Epistémè) et d’autre part, dans le cadre du projet européen NextLeap sur la nécessité de concevoir une nouvelle éthique numérique fondée sur la protection des données personnelles s’appuyant sur la cryptographie et sur de nouvelles architectures décentralisées.

2 — Ouvrir les « boites noires », tout le monde en parle… mais concrètement, comment faire ?

C’était l’enjeu de nos entretiens préparatoires. C’est un énorme défi épistémologique pour les scientifiques car leur savoir dépend directement de leurs instruments numériques. C’est une nouvelle opportunité pour les entreprises et start-up travaillant sur le big data de ne pas se limiter à la production de nouvelles boites noires mais au contraire d’opérer un travail de design de la donnée et de data literacy : documenter, interfacer, visualiser, annoter, interpréter, faire de la pédagogie, mettre en débat. C’est enfin pour tous les citoyens la nécessité de se « capaciter », en comprenant mieux ce qui est fait de leurs données et en les protégeant, en ouvrant les boites noires, en les mettant au service de processus de délibération.

3 — Comment vont se dérouler ces ENMI2017 ?

Comme à notre habitude depuis 10 ans, nous poserons les fondements théoriques de l’intelligence artificielle en l’occurrence mathématiques et philosophiques en abordant la délicate et complexe question de l’entropie à l’œuvre au niveau planétaire dans les désordres climatiques – encore dénoncés il y a quelques jours par 15.000 chercheurs -, mais également dans le champ de l’information. Benjamin Bratton, auteur d’un ouvrage majeur qui fait précisément le lien en ces deux dimensions sera notre invité cette année.

4 — Au-delà de ces deux jours de colloques, que fait l’IRI sur cette thématique ?

L’intelligence artificielle est toujours potentiellement bêtise artificielle si elle n’est pas mise en débat, et si elle vise exclusivement nos comportements individuels plutôt que la production collective de savoirs. L’enjeu est donc politique. Ce sera l’enjeu de notre dernière session où nous présenterons des projets et des expérimentations en lien avec des secteurs économiques ou des territoires tel que celui de Plaine Commune où l’IRI est engagé.

Infos pratiques

Le 19 et 20 décembre 2017 dans la Grande Salle du Centre Georges Pompidou.

Programme complet — https://enmi-conf.org/wp/enmi17/

Inscription — https://enmi-conf.org/wp/enmi17/