Ce 3 mars 2024, j’étais l’invité de Djamel Mazi à 8h20, dans le cadre de la matinale de France Info TV. Nous avons évoqué les premières expérimentations de vidéo surveillance algorithmique qui auront lieu pendant le concert de Depeche Mode de dimanche et aussi dans certaines zones des transports en commun parisiens, évidemment en préparation des JO de Paris 2024. Ces techniques posent évidemment de sérieuses questions de protection de nos libertés individuelles potentiellement mises à mal par des systèmes qui n’ont pas encore prouvé leur efficacité. Pendant notre entretien, je plaide notamment pour une évaluation technique aussi loin que possible des clivages politiques.…

Ci-dessous la retranscription de l’entretien, réalisé par IA, en espérant qu’un relecture rapide n’ait pas laissé trop d’erreurs. Il est peut-être possible de trouver un replay sur le site de France Info TV. Si vous savez où, je suis preneur.

——— Début de la transcription ———

Djamel Mazi Alors, si vous avez prévu de vous rendre au concert de Depeche Mode aujourd’hui à l’Accor Arena de Paris Bercy. Eh bien souriez vous serez filmé non pas dans la salle mais sur la voie publique. C’est une expérimentation annoncée par le ministère de l’Intérieur avec des caméras de vidéos, surveillance intelligente, expérimentation au vu des Jeux olympiques, c’était à Paris. Et on en parle avec notre invité, Fabrice Neuman, bonjour.

Fabrice Neuman Bonjour.

DM Merci d’être avec nous en direct sur France Info. Vous êtes consultant en nouvelle technologie pour les entreprises au sein de Pro-fusion Conseils. Ce dispositif qui va être testé aujourd’hui et mardi lors de ces concerts, on apprend que ce sont des caméras qui vont utiliser l’intelligence artificielle. Qu’est-ce qu’on va chercher à voir avec ces caméras ?

FN On va essayer de détecter des comportements potentiellement dangereux, notamment en termes de mouvement de foule, des choses comme ça. J’aimerais insister sur le fait qu’on utilise souvent le mot “intelligent” comme dans le terme “intelligence artificielle” et qu’il faut toujours faire très attention à ne pas faire trop d’anthropomorphisme. Ce ne sont pas des caméras qui pensent, ce sont des caméras qui utilisent des solutions logicielles pour essayer d’utiliser des statistiques, des modèles statistiques comme on utilise avec l’intelligence artificielle générative, pour du texte ou des images. Donc ce ne sont quand même pas des caméras qui pensent à la place de la police mais qui essaient d’utiliser des algorithmes pour reconnaître des événements spécifiques, donc comme des mouvements de foules ou éventuellement des mouvements suspects de certaines personnes dans un lieu assez fermé en tout cas.

DM Fabrice, c’est-à-dire que jusqu’à présent, lors de vidéosurveillance, ce sont des êtres humains, des hommes, des femmes qui derrière donnent l’alerte lorsqu’il y a ces mouvements de foules, là, comment ça va se passer ? Ça va s’automatiser en quelque sorte ces mouvements de foules ? Ces détections…

FN Oui, pour les détecter, oui, c’est-à-dire qu’il y a eu déjà eu des tests aussi à Londres, notamment dans le métro londonien, pour voir si on pouvait détecter des mouvements suspects, que ce soit des mouvements de foules ou juste des mouvements individuels, de gens qui seraient… Alors ça n’a pas très bien marché, il faut bien le dire tout de suite. C’est-à-dire que, par exemple, des gens levaient les bras et c’était détecté comme un mouvement éventuellement suspect mais il faut tout de suite rappeler, comme vous venez de le faire, que ça veut dire que ça crée une alerte auprès des autorités de la police qui peut-être ne regardaient pas la caméra à ce moment-là, pour ensuite vérifier si ça s’y s’est vraiment d’un mouvement suspect. Donc c’est vraiment de l’aide à la détection. Quand on multiplie les caméras, on multiplie aussi donc les images et il faudrait du coup mettre quelqu’un qui regarde les images, quand on multiplie les images c’est difficile. C’est exactement à ça que peut servir un ordinateur et un logiciel de pouvoir regarder à notre place et faire une analyse à notre place pour ensuite nous donner des éléments de décision.

DM Donc d’après les informations communiquées par le ministère de l’Intérieur au total, ce sont 6 caméras qui vont être testées ce soir aux abords de la salle du concert de Depeche Mode, caméras équipées d’un logiciel, une entreprise, une société parisienne, Wintics, on apprenait également que la SNCF, les RATP vont également tester ce dispositif à l’intérieur et autour des gares. Précisément la question qu’on se pose c’est que ça va être expérimenté là pour le déployer lors des Jeux olympiques et est-ce qu’on va pas vers une généralisation justement de ce système à l’avenir ?

FN Alors c’est toute la question, le gouvernement a bien dit que si jamais ça marchait, il serait possible que ces techniques soient plus ou moins généralisées. Alors ça fait toujours un peu peur, je suis assez d’accord avec ça, parce qu’on pense tout de suite à l’exemple chinois et à l’annotation sociale qui fait qu’on peut détecter même punir donc les gens qui ne traversent pas la rue dans le bon passage piéton. Je pense qu’il y a aussi, les J.O. vont faire venir énormément de monde, donc il y a des moyens techniques qui peuvent être utilisés pour aider les autorités. J’aurais envie de dire quand il faut voir si ça marche. Donc le fait qu’il y ait des tests faits, donc ce soir au concert, bien un peu plus tard dans le métro parisien, tout ce que je souhaite c’est que les résultats soient analysés de manière uniquement statistique et pas politique pour voir si ça fonctionne ou pas. On sait aujourd’hui que pour l’instant ces systèmes n’ont pas vraiment prouvé leur efficacité. Peut-être que tout simplement, il n’était pas suffisamment précis. Et pour avoir des données précises, il faut faire des tests. J’espère que c’est l’essence de ce genre de tests auquel on va assister ce soir et dans les jours qui viennent et ensuite dans les mois qui viennent.

DM Évidemment que vous le disiez à l’instant Fabrice Neuman, la ligne rouge pour les défenseurs des libertés pour un tel dispositif, ce serait la reconnaissance faciale qui a été écartée de ce dispositif. On l’a bien compris, la pression est immense pour le ministère de l’Intérieur à l’occasion de ces Jeux Olympiques qui vont brasser beaucoup de monde, beaucoup de touristes également. L’objectif évidemment c’est de ne pas réitérer le fiasco de la finale de la ligue des champions de foot en mai 2022.

FN Il y a toujours des dérives possibles. La technologie est quand même toujours essentiellement en tout cas fait de ce qu’on fait avec. Donc je reprendrais encore aussi l’exemple londonien. Les images, les visages étaient floutés jusqu’à ce que finalement au bout de 6 mois ils aient été floutés pour je ne sais pas de quelle raison finalement. C’est toujours possible. Il va falloir absolument que le législateur mette les limites en place. On sait aussi que la technologie a tendance à se développer un peu plus vite que la législation. En fait je regrette pour ma part que ce soit souvent des débats politiques et des clivages politiques qui fassent qu’on se pose des questions de sécurité autour des technologies. J’aimerais bien qu’on analyse ça avec une tête un peu plus froide.

DM Merci beaucoup Fabrice Neuman, merci d’avoir été avec nous pour décrypter ce système qui sera donc déployé ce soir du Concert de Depeche Mode ce soir et mardi. La SNCF et la RATP qui vont également expérimenté cette vidéo surveillance intelligente.

——— Fin de la transcription ———