Die rasche Verbreitung Künstlicher Intelligenz bringt Fortschritt aber auch Risiken mit sich. Sie ist damit nicht nur eine Herausforderung für Unternehmen, sondern auch für Politik und Gesellschaft. Der Ruf nach Regulierung wird immer lauter.

Cartoon: Wenn KI die KI überwacht

Wenn KI die KI überwacht.
© Iyad Rahwan, Evil AI Cartoons

Partner des Bank Blogs

In dem Ausmaß, in dem sich die Verbreitung und Anwendung von Künstlicher Intelligenz beschleunigt, nimmt auch die Diskussion um die dahinter liegenden Gefahren zu. Selbst der Gründer des ChatGPT-Unternehmens Open AI sagt, dass KI nicht ohne Regulierung auskommen wird. Doch wie kann dies gelingen ohne zugleich den Fortschritt einzudämmen?

4 Kräfte zur Regulierung digitaler Technologien

Lawrence Lessig ist Jurist und Professor an der Harvard University. Er befasst sich u.a. mit der Regulierung des Internets. Für die Regulierung von digitalen Technologien, wie Künstlicher Intelligenz beschreibt er in seinem Buch „Code: And Other Laws of Cyberspace“ vier Kräfte:

  • Gesetze: Ausdrückliche Vorschriften, die von der Regierung durchgesetzt werden können.
  • Normen: Soziale und gesellschaftliche Konventionen, an die man sich gebunden fühlt.
  • Code/Architektur: Die physischen oder technischen Beschränkungen von Aktivitäten (z. B. Schlösser an Türen oder Firewalls im Internet).
  • Markt: Wirtschaftliche Kräfte und Sachzwänge.

Künstliche Intelligenz als fünfte Kraft

Der Einsatz von menschlichen Beobachtern zur Überwachung von KI stößt an praktische und ökonomische Grenzen. Im Zuge des technologischen Fortschritts steht uns allerdings eine fünfte Kraft zur Verfügung: Die KI selbst. Der im vergangenen Jahr verstorbene Soziologe Amitai Etzioni und sein Sohn, der Informatiker Oren Etzioni, stellten dazu eine neue Klasse von Algorithmen vor, die sogenannten Überwachungsprogramme. Diese Programme sollen operative KI-Programme überwachen, prüfen und zur Rechenschaft ziehen.

Drei Vorteile der Überwachung von KI durch KI

Der Einsatz einer KI zur Überwachung anderer KIs bietet drei große Vorteile.

  1. Die Fähigkeiten und Kapazitäten zur Überwachung von KI-Systemen kann mit KI erheblich ausgebaut werden. Menschen können sich dann auf neuartiges, heimtückisches Fehlverhalten von Maschinen konzentrieren.
  2. Ein Überwachungsprogramm kann KI-Algorithmen mit viel höherer Geschwindigkeit überwachen als Menschen. Dies kann für bestimmte Bereiche, wie den algorithmischen Hochfrequenzhandel, notwendig sein.
  3. Überwachungsprogrammen können KI-Algorithmen unter Wahrung der Privatsphäre der Betroffenen überprüfen, z.B. bei der Überprüfung, ob Algorithmen für Online-Werbung sensible Nutzerdaten verwenden oder ob eine KI persönliche Inhalte und Anhänge privater Kommunikationsflüsse scannt.

Grenzen der Überwachung von KI durch KI

Der Einsatz von Überwachungsprogrammen stößt jedoch an Grenzen. Wenn wir ein KI-Überwachungsprogramm zur Überprüfung einer anderen KI einsetzen, müssen wir Vertrauen in das Überwachungsprogramm haben.

Um dieses Vertrauen zu gewinnen, können wir eine dritte KI einsetzen, um das Überwachungsprogramm selbst zu überprüfen. Aber das Problem setzt sich unendlich fort. Irgendwann geht uns die Rechenleistung aus.

Letztlich können wir im Prinzip nicht nachprüfen, ob eine Superintelligenz sicher ist. Irgendwann ist es nur noch eine Frage des Glaubens. Umso wichtiger erscheint es, dass am Ende der Entscheidungskette Menschen sitzen.