Atelier 2
Le deuxième atelier du programme de recherche s’est déroulé dans les locaux de l’Institut de recherche juridique de la Sorbonne (IRJS) , le jeudi 9 novembre 2023.
Intitulé « Traduction informatique des pratiques d’influence et digitalisation du marché de la consommation », il nous a permis de mieux appréhender les techniques numériques et informatiques, existantes ou en cours d’élaboration, produisant des formes d’influence sur les consommateurs. Il a permis également de mettre en lumière comment et pourquoi les entreprises se saisissent de ces techniques.
Sont intervenus successivement :
- Claude CASTELLUCCIA, Directeur de recherche à l’Institut national de recherche en informatique et en automatique (INRIA Grenoble), membre de la Commission nationale informatique et libertés (CNIL), sur l’influence des systèmes d’intelligence artificielle sur les cerveaux humains : De quelle manière les systèmes d’intelligence artificielle (aux rangs desquels les IA génératives) sont-ils utilisés pour influencer/manipuler les décisions et les opinions ? Comment, en particulier, l’intelligence artificielle procède-t-elle au traitement du nombre croissant des données cérébrales disponibles ?
Visionner le support de présentation de C. Casteluccia ici – Bio du contributeur et video de présentation consultables ci-dessous - Nataliia BIELOVA, Directrice de recherche à l’Institut national de recherche en informatique et en automatique (INRIA Sophia Antipolis), Université Coté d’Azur, sur les enjeux informatiques des dark patterns : Quelles sont les différentes catégories de pratiques trompeuses ou manipulatoires tendant à empêcher les usagers de l’internet et les consommateurs en particulier de prendre des décisions éclairées ? Quelle taxonomie des dark patterns actuellement répertoriées pourrait être proposée ? Et pour quelle finalité ?
Visionner le support de présentation de N. Bielova ici – Bio du contributeur et video de présentation consultables ci-dessous - Oana GOGA, Chargée de recherche CNRS au sein de l’équipe INRIA CEDAR au Laboratoire d’Informatique de l’Ecole Polytechnique, sur le micro-ciblage des publicités et des recommandations et le micro-profilage des individus : En quoi consistent le micro-ciblage des publicités et des recommandations et le micro-profilage des individus mis en œuvre par les opérateurs sur les sites de commerce électronique ?
Visionner le support de présentation de O. Goga ici – Bio du contributeur et video de présentation consultables ci-dessous - Hakim SI-MOHAMMED, Maître de conférences en génie informatique, automatique et traitement du signal, Université de Lille : Quelles sont les différentes formes d’interfaces cerveau/machine et de systèmes de réalités virtuelles ? Quelles sont les règles éthiques en cours d’élaboration à leur propos ?
Visionner le support de présentation de H. Si Mohammed ici – Bio du contributeur et video de présentation consultables ci-dessous - Ludovic HOYET, Chargé de recherche à l’Institut national de recherche en informatique et en automatique (INRIA Rennes), habilité à diriger des recherches sur les enjeux informatiques de la simulation en temps réel de personnages virtuels : Qu’est-ce que la simulation en temps réel de personnages virtuels sur la base de caractéristiques perceptives pertinentes ? Quels comportements ces personnages virtuels peuvent-ils induire chez les humains ? Des applications sont-elles envisageables dans le domaine du commerce électronique ?
Visionner le support de présentation de L. Hoyet ici – Bio du contributeur et video de présentation consultables ci-dessous
Brève présentation des contributeurs (dans l’ordre des prises de parole)
Claude Castelluccia est directeur de recherche à l’Inria Grenoble Rhône-Alpes et membre fondateur de l’équipe Privatics (modèles, architectures et outils pour la protection de la vie privée dans la société de l’information). Il est également membre des instituts IA, Data et Cybersécurité de l’Université Grenoble-Alpes (UGA). Il effectue ses recherches dans les domaines de la protection de la vie privée dans le numérique, l’analyse des systèmes de surveillance et de manipulation par les données, les protocoles de l’Internet et la sécurité informatique. Il collabore régulièrement avec des institutions internationales, et notamment européennes. Depuis 2021, il est membre de la CNIL au titre de personnalité qualifiée pour sa connaissance du numérique et des questions touchant aux libertés individuelles.
Nataliia Bielova est Chargée de Recherche en Informatique au sein de l’équipe PRIVATICS de l’Inria. De septembre 2021 à décembre 2022, elle a été chercheuse experte auprès de la Commission nationale de l’informatique et des libertés (CNIL), où elle a mené des recherches transdisciplinaires pour le régulateur français sur les actes de l’Union européenne protégeant les données personnelles. Son domaine de recherche est la protection de la vie privée et des utilisateurs en ligne : elle développe des techniques informatiques et des technologies alimentées par ces techniques, pour évaluer les applications Web en mesurant et quantifiant les risques pour la vie privée et pour la manipulation des utilisateurs en détectant les violations juridiques potentielles, afin de garantir la protection de la vie privée et le respect des droits de l’homme des utilisateurs d’Internet. Elle adopte une approche transdisciplinaire en appliquant des méthodes informatiques et en collaborant avec des spécialistes du droit et du design. En 2023, Nataliia a obtenu une prix de categorie « Rising Star » par W@Privacy, récompensent des femmes qui font un travail remarquable dans le domaine de la protection de la vie privée en montrant l’exemple, responsabilisant les citoyens et ayant un réel impact sur leur communauté.
Chargée de recherche au CNRS, Oana Goga (https://www.lix.polytechnique.fr/~goga/) est membre de l’équipe Inria CEDAR du Laboratoire d’Informatique de l’Ecole Polytechnique (LIX). Ses recherches portent sur l’investigation des risques pour les humains et la société amenée par les plateformes en ligne et les déploiements de l’IA comme les technologies de ciblage. Ses recherches sont interdisciplinaires, et elle travaille avec des économistes, chercheurs en sciences sociales, et juristes. Ses recherches ont eu un impact sur les lois au niveau Européen, et elle est expert extérieur pour la Commission Européenne en problématiques reliée à l’accès aux données et regulation des plateformes. Elle obtient en 2023 le prix Lovelace-Babbage de l’Académie de Science et la Société Informatique de France et en 2022 une prestigieuse bourse ERC Starting pour mesurer et mitiger l’impact du ciblage algorithmique d’information. Ses recherches récentes ont aussi reçu plusieurs prix, parmi lesquels, en 2020, le prix Honorable Mention (The Web Conference) et le prix CNIL-Inria pour la protection de la vie privée.
Hakim Si-Mohammed est maître de conférences en informatique à l’Université de Lille. Il a obtenu un doctorat en informatique à l’INSA de Rennes et a travaillé auprès de l’Inria sur les interfaces cerveau-ordinateur et la réalité augmentée. Ses recherches portent sur les interfaces cerveau-ordinateur basées sur l’EEG (électroencéphalogramme), la réalité virtuelle et augmentée ainsi que sur l’interaction homme-machine. Il fait partie de l’équipe BCI (Brain Computer Interfaces) du laboratoire CRIStAL (CNRS) et est coordinateur d’un projet portant sur la prise en compte des neuromarqueurs au sein des systèmes immersifs de nouvelle génération (Genesis).
Ludovic Hoyet est chargé de recherche à l’Institut National de Recherche en Informatique et Automatisme (Centre Inria de l’Université de Rennes) depuis 2015, au sein de l’équipe VirtUs. Il a obtenu sa thèse à l’INSA de Rennes en 2010 sous la supervision du Prof. Franck Multon (Université de Rennes 2) et du Dr. Taku Komura (Université d’Edimbourg), avant de réaliser son postdoctorat à Trinity College Dublin sous la supervision du Prof. Carol O’Sullivan. Il a soutenu son Habilitation à Diriger des Recherches en 2022 sur le thème « Vers une animation de personnages basées sur la perception ». Ses activités de recherche visent la simulation en temps réel de personnages virtuels, incluant des thématiques allant de l’animation basée capture de mouvement, l’animation de foules virtuels, et l’animation et l’étude des avatars, i.e., la représentation des utilisateurs en environnement virtuel.