« Nous voyons les dangers et agissons peu »

Sophie Weerts, vous menez des recherches sur l’impact de la société de plus en plus numérique sur le droit public. Quelle est la situation actuelle ?

La situation est complexe, car droit et technologie interfère l’un avec l’autre. Pour l’expliquer, on peut l’approcher sous trois angles distincts. Le premier est déjà complexe. En effet, dans une vision classique, on va considérer que le droit a vocation à régir les situations et donc potentiellement les technologies qui sont déployées dans nos vies. Toutefois, le rapport entre droit et technologie a été marqué depuis le milieu des années 1990 et le début de l’internet par un discours déclarant que le monde digital n’est pas le monde analogique. Dès lors, le droit qui règle nos vies analogiques ne trouverait pas à s’appliquer à l’univers digital. Dans ce contexte, ce n’est pas étonnant que nos systèmes juridiques ont donc peu réglé la question digitale, sous réserve de l’enjeu spécifique de la protection des données personnelles puis de la cybercriminalité. On a aussi beaucoup misé sur les réponses de soft law avec par exemple des codes éthiques, sans grands effets puisque celles-ci ne sont pas contraignantes.

Y-a-t-il d’autres angles à explorer ?

Oui, le deuxième angle d’analyse du rapport entre droit et technologie revêt une dimension particulièrement inquiétante. La question n’est plus ici celle de la régulation de la technologie par le droit, mais de la régulation par la technologie. Autrement dit, on est entré dans une phase où la technologie peut se substituer au droit, elle peut avoir une dimension normative sur les individus. On n’interdit pas une manifestation, mais si celle-ci se produit dans un espace filmé, les personnes ne s’y rendent plus de peur d’être cataloguées. Les spécialistes parlent du « chilling effect » qui conduit donc les individus à renoncer à une partie de leurs droits individuels. La troisième facette du rapport entre droit et technologie est enfin la plus surprenante. Nous en sommes arrivés à la situation où nous adaptons des éléments de nos systèmes juridiques pour que ceux-ci soient compatibles avec l’environnement digital.

Le rythme et/ou la nature de l'évolution numérique vous ont-ils surpris ?

Ce qui me frappe tout particulièrement c’est d’une part le peu de débat sur les progrès technologiques et, d’autre part, la logique d’expérimentation collective à laquelle nous semblons adhérer ou nous résigner. Je m’explique. Nous, en tant que société, avons déjà expérimenté des technologies qui nous ont conduits aux frontières de l’admissible sur le plan moral. Il suffit de penser à la technologie nucléaire et à Nagasaki ou Hiroshima. Avec le développement des technologies de l’information, nous vivons un de ces moments où nous voyons parfaitement les dangers et pourtant nous agissons peu. D’autre part, les principaux protagonistes qui sont à l’origine de ces progrès ne sont pas des instituts publics ou semi-publics, mais des méga-entreprises qui sont aux mains d’une poignée de personnes – principalement établies en Chine et aux Etats-Unis.

Et cela peut-il poser des problèmes ?

Oui, car ces entreprises ont un modèle d’affaire bien précis, générer de l’argent à travers la vente de nos données qu’elles collectent chaque fois que nous nous connectons et cela afin de nous inonder de publicités. Face à une telle situation, on peut comprendre que les législateurs soient désemparés, mais il faut dépasser l’état de sidération, débattre et décider avec l’outil de prédilection pour un Etat de droit, à savoir le droit. A cet égard, il faut saluer les efforts de l’Union européenne qui a fait le choix de la réglementation, même si celle-ci n’est pas parfaite. Elle a le mérite d’inciter les autres à se pencher sérieusement sur la question.

La numérisation / l'intelligence artificielle est-elle suffisamment prise en compte dans la loi (révisée) sur la protection des données ?

La réglementation sur la protection des données – que celle-ci soit déclinée au niveau international avec la Convention 108+ du Conseil de l’Europe ou avec les lois fédérales et cantonales de la protection des données – a été pensée comme « technologiquement neutre ». Cela signifie qu’elle s’applique à tout type de technologies. Cette approche est très séduisante, car elle vise à couvrir tout le spectre des technologies de l’information, indépendamment des évolutions technologiques. Toutefois, la question de la protection juridique dont doivent pouvoir bénéficier les individus ne se limite pas à la question de la protection des données personnelles. D’une part, les technologies de l’IA fonctionnent aussi avec d’autres données que les données personnelles et ces autres données peuvent aussi devoir faire l’objet d’un régime juridique spécifique. D’autre part, les technologies de l’IA posent des nouvelles questions du point de vue de notre compréhension de la discrimination, ou encore du fardeau de la preuve en matière de responsabilité des développeurs et utilisateurs qui ne sont souvent pas les destinataires finaux de la technologie.

Les Etats agissent-ils ?

L’Union européenne a engagé un processus législatif pour réglementer la mise sur le marché des systèmes d’IA (le règlement sur l’IA), mais également pour fixer un nouveau régime juridique de responsabilité dans le cas d’utilisation de systèmes d’IA. Le Conseil de l’Europe est également en train de rédiger une nouvelle convention sur l’IA et la Suisse est un des Etats qui est très actif dans ce projet.

Quels travaux dans le domaine de la justice peuvent déjà ou pourront à l'avenir être pris en charge par l’IA ?

Le travail de recherche des sources juridiques est grandement facilité par les technologies de l’information. L’arrivée de l’apprentissage automatique supervisé ou non-supervisé a permis d’accroitre la rapidité et précision de la recherche informatique dans les sources juridiques. Cela donne aussi lieu à des services qui peuvent offrir des solutions juridiques clés en main comme des projets de contrat. Ce type d’activités a d’ailleurs donné lieu au développement de tout un secteur économique qu’on appelle les LegalTech. L’apprentissage profond constitue une technologie qui permet d’aller encore plus loin. En Colombie, deux décisions judiciaires ont déjà été rendues par des magistrats qui ont indiqué avoir utilisé ChatGPT pour les aider à rendre leur décision. Cette double utilisation a été largement critiquée par les juristes spécialisés dans les nouvelles technologies. En effet, ce n’est pas tout d’avoir la technologie, la machine, celle-ci doit encore pouvoir disposer de carburant pour fonctionner. C’est là que les données entrent en jeu. En l’occurrence, aucune information n’existe quant à l’origine des données utilisées, ni sur la façon dont elles sont traitées. Cela signifie aussi que les sources juridiques doivent être enregistrées dans des formats qui sont lisibles pour la machine.

Que pensez-vous du projet Justitia 4.0 ?

Le projet est ambitieux, car la justice est un environnement en soi - et j’ajouterais qu’il s’agit d’un domaine sensible. En raison de l’importance de son indépendance à l’égard des autres organes de l’Etat, elle s’inscrit dans une organisation administrative spécifique. A ce titre, il n’est pas très étonnant que le monde judiciaire soit finalement celui dans lequel les projets de digitalisation ont jusqu’à présent été les moins poussés. La transformation digitale des services centraux de l’Etat a été engagée depuis bien plus longtemps. Il y a probablement eu de part et d’autre une réticence à engager le monde judiciaire sur la voie de la digitalisation. Je ne connais pas tous les éléments du projet, mais je peux imaginer que les enjeux se situent sur le plan technique et sur le plan humain. Sur le plan technique, ce type de projet doit s’intégrer dans une organisation qui s’est probablement développée sur le plan technologique de manière décentralisée. Sur le plan humain, la question du changement est toujours un défi pour une organisation. Les hommes et les femmes vont devoir s’adapter à un nouvel environnement de travail, à de nouvelles manières de travailler, cela prend du temps et ce type de basculement doit être accompagné par l’organisation.

Un petit groupe appelé « Update Schweiz » veut doter la Suisse d’une nouvelle constitution, notamment parce que notre pays ne serait pas suffisamment préparé à la numérisation. Qu'en pensez-vous ?

Ce type d’initiative a le mérite de mettre à l’agenda la question du rapport entre droit constitutionnel et transformation digitale. Tout en précisant que je n’ai pas eu le texte entre les mains et réagis sur la base de ce que j’en ai lu dans les médias, je dois dire que je reste très sceptique quant à l’idée qu’il fasse une révision totale de la Constitution fédérale. Si l’idée est d’adapter les dispositions constitutionnelles pour intégrer des éléments qui permettraient aux individus de se voir reconnaître davantage de droits individuels sur le plan numérique ou pour permettre aux différents organes de la Confédération d’utiliser les technologies de l’information, je ne vois pas le besoin de passer par une révision totale. Des modifications ciblées du texte constitutionnel en vigueur pourraient très bien être proposées. Si l’idée derrière le projet de révision totale est d’adapter notre conception du droit pour le rendre par exemple plus « agile » – retrouvant ainsi le discours néolibéral anti-juridique –, je suis contre un tel projet, car j’y vois un danger très direct pour la démocratie.

A quoi ressembleront la justice et l’administration publique de demain ?

C’est difficile à prévoir ! Actuellement, on est encore dans la tendance toujours plus de digital. Les projets de « e-government », « digital government » ou encore « smart government » se succèdent et sont marqués par les avancées technologiques : le déploiement des ordinateurs posés sur les bureaux, puis la mise en place de portails à destination des usagers pour accéder à l’information, la numérisation des documents papiers. On a ensuite connu le développement des guichets électroniques qui permettent d’accéder à des formulaires en ligne et parfois d’échanger avec les services publics tout cela depuis son téléphone portable. On est maintenant dans la phase des objets connectés, capteurs et autres algorithmes. Dans ce contexte, la technologie se fait de plus en plus discrète et est omniprésente. Les ordinateurs quantiques et les programmes informatiques utilisant l’apprentissage profond et des réseaux neuronaux pour produire des textes et codes sources vont probablement ouvrir la voie à une nouvelle étape dans l’adaptation de la justice et de l’administration publique à la transformation digitale avec un service de plus en plus taillé sur mesure pour les usagers.