«Wir sehen die Risiken und reagieren kaum»

Sophie Weerts, Sie betreiben Forschung zur Wirkung der immer digitalisierteren Gesellschaft auf das öffentliche Recht. Wo stehen wir heute?

Die Situation ist komplex, weil Recht und Technologie in einer Wechselwirkung stehen, für deren Beschreibung drei Ansätze bestehen. Der erste ist an und für sich schon komplex. Klassisch wird davon ausgegangen, dass das Recht die Situationen des Lebens regeln soll, also auch die Technologien, die wir im Alltag anwenden. Doch wird das Verhältnis zwischen Recht und Technologie seit den 1990er Jahren und der Einführung von Internet durch den Diskurs geprägt, die digitale unterscheide sich von der analogen Welt. Daher sei das Recht, das unser analoges Leben regelt, nicht auf die digitale Welt anwendbar. In diesem Umfeld erstaunt es nicht, dass die digitale Frage, abgesehen von den spezifischen Themen des Datenschutzes und der Cyberkriminalität, in unseren Rechtssystemen kaum geregelt wurde. Zudem wurde stark auf Soft Law gesetzt, wie die Ethikkodizes, deren Wirksamkeit aber wegen ihres nichtzwingenden Charakters beschränkt ist.

Gibt es andere Ansätze?

Ja. Der zweite Ansatz, um das Verhältnis zwischen Recht und Technologie zu analysieren, weist eine besonders beunruhigende Komponente auf. Gefragt wird nicht mehr nach einer Regulierung der Technologie durch das Recht sondern nach einer Regulierung durch die Technologie. Anders gesagt: Wir befinden uns in einer Phase, in der die Technologie das Recht ablösen und sich normativ auf das Individuum auswirken kann. Demonstrationen werden nicht verboten, doch werden sie gefilmt, weshalb gewisse Personen nicht mehr daran teilnehmen, weil sie befürchten, abgestempelt zu werden. Die Spezialistinnen und Spezialisten sprechen von einem «chilling effect», der die Menschen dazu bringt, freiwillig auf gewisse Individualrechte zu verzichten. Der dritte Aspekt im Verhältnis zwischen Recht und Technologie überrascht am meisten. Wir sind an einem Punkt angelangt, an dem wir Teile unserer Rechtssysteme so anpassen, dass sie mit dem digitalen Umfeld kompatibel werden.

Überrascht Sie das Tempo bzw. die Art der digitalen Entwicklung?

Was mir besonders auffällt, ist einerseits, dass kaum eine Debatte über den technologischen Fortschritt geführt wird, und andererseits, dass wir offenbar mit der Logik eines kollektiven Experiments einverstanden sind oder uns damit abfinden. Lassen Sie mich erklären. Als Gesellschaft haben wir bereits Erfahrung mit Technologien, die uns an die Grenzen des moralisch Zulässigen gebracht haben. Denken wir nur an die Nukleartechnik, an Nagasaki und Hiroshima. Mit den Fortschritten bei den Informationstechnologien sind wir an einem dieser Punkte angekommen, an dem wir die Risiken vollkommen erkennen und doch kaum darauf reagieren. Andererseits sind die wichtigsten Akteure, die diese Fortschritte vorantreiben, nicht öffentliche oder halböffentliche Institutionen sondern Megakonzerne, die sich im Besitz einer Handvoll Personen, hauptsächlich in den USA und in China, befinden.

Kann das problematisch werden?

Ja, denn diese Konzerne haben ein ganz bestimmtes Geschäftsmodell. Sie machen Geld, indem sie unsere Daten verkaufen, die sie immer, wenn wir online sind, sammeln, um uns mit Werbung zu überschütten. In dieser Situation ist es verständlich, dass die Gesetzgeber hilflos sind. Aber diesen Zustand der Fassungslosigkeit müssen wir überwinden, wir müssen debattieren und mit dem Lieblingsinstrument des Rechtsstaats, mit dem Recht, Richtungsentscheide treffen. Diesbezüglich sind die Anstrengungen der Europäischen Union zu begrüssen, weil sie Reglementierungen beschliesst, auch wenn diese nicht perfekt sind. Damit regt sie andere an, sich ernsthaft mit der Frage auseinander zu setzen.

Wird die Digitalisierung bzw. die künstliche Intelligenz im (revidierten) Datenschutzgesetz hinreichend berücksichtigt?

Die Reglementierung des Datenschutzes – auf internationaler Ebene mit der Konvention 108+ des Europarats, auf Bundes- und Kantonsebene mit den Datenschutzgesetzen – ist «technologieneutral» konzipiert. Sie ist also auf alle Technologiearten anwendbar. Dieser Ansatz ist bestechend, weil damit das gesamte Spektrum der Informationstechnologien ungeachtet des technischen Entwicklungsstands abgedeckt wird. Doch beschränkt sich die Frage des individuellen Rechtsschutzes nicht auf den Schutz der personenbezogenen Daten. Einerseits funktionieren die KI-Technologien auch mit nicht-personenbezogenen Daten, weshalb für sie möglicherweise eine eigene Rechtsordnung erforderlich ist. Andererseits werfen diese Technologien neue Fragen auf: zu unserem Verständnis von Diskriminierung oder auch zur Beweislast für die Haftung von Entwicklern und Usern, die oft nicht die Endnutzer/innen der Technologie sind.

Und sind die Staaten aktiv?

Die Europäische Union hat einen Gesetzgebungsprozess eingeleitet, um die Vermarktung der KI-Systeme zu regeln (KI-Gesetz), aber auch um eine neue Rechtsordnung für die Haftung bei der Nutzung von KI-Systemen festzulegen. Zudem arbeitet der Europarat an einer neuen Konvention über die KI, an der sich die Schweiz äusserst aktiv beteiligt.

Welche juristischen Arbeiten können schon jetzt oder könnten in Zukunft von der KI übernommen werden?

Die Recherchierarbeiten in den Rechtsquellen wird durch die Informationstechnologien stark vereinfacht. Mit der Einführung des überwachten und unüberwachten maschinellen Lernens wurde die digitale Suche in den Rechtsquellen schneller und präziser. Damit lassen sich auch Dienstleistungen mit fixfertigen Rechtslösungen bereitstellen wie etwa Vertragsentwürfe. Daraus ist mit LegalTech eine von Grund auf neue Wirtschaftsbranche entstanden. Noch weiter geht das tiefe Lernen (Deep Learning). In Kolumbien liegen bereits zwei Gerichtsurteile vor, für die ChatGPT als Entscheidungshilfe herangezogen wurde. Dies wurde von Fachjuristen für neue Technologien breit kritisiert. Es reicht ja nicht, die Technologie, also die Maschine zu haben, es braucht auch den Treibstoff, um sie laufen zu lassen. Und hier kommen die Daten ins Spiel. Im vorliegenden Fall gibt es keine Informationen darüber, woher diese Daten stammen und wie sie verarbeitet wurden. Es bedingt ja auch, dass die Rechtsquellen in einem Format abgespeichert sind, das die Maschine lesen kann.

Was halten Sie von Justitia 4.0?

Es ist ein ehrgeiziges Projekt, denn die Justiz ist ein ganz eigenes Umfeld, das besonders sensibel ist. Wegen der Unabhängigkeit der Justiz von den anderen Staatsorganen weist sie ihre ganz eigene administrative Organisation auf. Daher ist es nicht weiter erstaunlich, dass die Digitalisierung hier am wenigsten weit fortgeschritten ist. Der digitale Wandel der zentralen Staatsdienste wurde viel früher in Angriff genommen. Möglicherweise gab es von beiden Seiten Widerstand, die Justiz auf den Digitalisierungspfad zu bringen. Ich kenne das Projekt nicht im Einzelnen, kann mir aber vorstellen, dass die Herausforderungen technischer und menschlicher Art sind. Technisch, weil sich ein solches Projekt in eine Organisation einfügen muss, die sich technologisch wohl eher dezentral entwickelt hat. Menschlich, weil Veränderungen für eine Organisation immer eine Herausforderung darstellen. Die betroffenen Menschen müssen sich an ein neues Arbeitsumfeld und an neue Arbeitsformen gewöhnen. Das braucht Zeit, und ein solcher Umbruch muss von der Organisation begleitet werden.

«Update Schweiz», eine kleine Gruppe, will eine Abstimmung über eine neue Bundesverfassung bewirken, gerade auch weil unser Land für die Digitalisierung nicht fit sei. Was halten Sie davon?

Eine solche Initiative hat den Vorteil, dass sie das Verhältnis zwischen Verfassungsrecht und digitalem Wandel auf die öffentliche Agenda setzt. Ich habe den Initiativtext selbst nicht gelesen und reagiere nur aufgrund der Medienberichterstattung, muss aber schon sagen, dass ich sehr skeptisch bin, ob es dazu wirklich eine Totalrevision der Bundesverfassung braucht. Wenn die Idee ist, einzelne Verfassungsartikel so zu ergänzen, dass den Menschen auf digitaler Ebene grössere Individualrechte zugestanden werden oder den Organen des Bundes ermöglicht wird, Informationstechnologien zu verwenden, sehe ich den Bedarf einer Totalrevision nicht. Vielmehr könnten gezielte Änderungen am aktuellen Verfassungstext vorgeschlagen werden. Wenn die Idee hinter einer Totalrevision aber ist, unser Verständnis des Rechts zu verändern und es beispielsweise «agiler» zu machen, wie dies in einem antijuristischen neoliberalen Diskurs heisst, so bin ich dagegen, denn dies würde die Demokratie direkt gefährden.

Wie sieht die Justiz und Verwaltung der Zukunft aus?

Schwer zu sagen! Zurzeit befinden wir uns in einem Trend der ständigen Vermehrung des Digitalen. Mit jedem technologischen Fortschritt wurden Projekte wie «E-Government», «Digital Government» und «Smart Government» in dichter Folge eingeführt: zuerst PCs an jedem Arbeitsplatz, dann Nutzer-Portale für den Informationszugriff und dann die Digitalisierung der Papierdokumente. Danach wurden die elektronischen Schalter entwickelt, um Online-Formulare bereitzustellen, teils auch die Kommunikation mit den Ämtern zu ermöglichen, ganz einfach vom Handy aus. Jetzt befinden wir uns in der Phase der intelligenten Objekte, der Sensoren und Algorithmen. Die Technologie wird immer diskreter, ist aber omnipräsent. Die Quantencomputer und Deep-Learning-Programme mit neuronalen Netzen zur Text- und Quelltext-Produktion werden wahrscheinlich eine neue Phase der digitalen Transformation in der Justiz und der öffentlichen Verwaltung einläuten, in der den Nutzerinnen und Nutzern immer personalisierter Dienste angeboten werden.