Wir müssen drüber reden, wie Künstliche Intelligenz menschlich und intelligent wird!

Beim unaufhaltsamen Aufstieg der Künstlichen Intelligenz bleibt vieles auf der Strecke, was sich eines Tages gegen sie kehren könnte. Es hilft nichts: Wir müssen reden.

„Künstliche Intelligenz (KI) ist zu einem neuen Megatrend der Digitalisierung geworden“

schreibt Dirk Schrödter, Chef der schleswig-holsteinischen Staatskanzlei, in seinem Vorwort zur zweiten Auflage der KI-Strategie der Landesregierung.
KI ist aber nicht mehr nur ein „Megatrend“. Sie ist das Rückgrat für wissenschaftliche Durchbrüche und Unternehmenswachstum. Sie könnte helfen, globale und regionale gesellschaftliche Probleme zu lösen – wenn die Menschheit dafür bereit wäre.

ChatGPT – ein Intelligenzverstärker?

Der große Hype kam mit der Veröffentlichung von ChatGPT vor einem Jahr, einem so genannten großen Sprachmodell (Large Language Model MML). Es beantwortet Fragen in einer Sprache, die der von Menschen täuschend ähnlich ist. Solche Modelle können Intelligenzverstärker sein, logische und kreative Arbeit erleichtern und beim Brainstorming helfen. Vielleicht vergleichbar mit der Einführung der Taschenrechner vor 50 Jahren: Die Technik erspart Arbeit, dennoch muss der Mensch am Ende selbst abschätzen, wie plausibel das Ergebnis ist. Er könnte sich vertippt, ChatGPT die Anfrage missverstanden haben.
Diese generativen Sprachmodelle, die scheinbar in Sekunden auf alles eine Antwort haben, können das nur, weil sie von Texten gelernt haben, die Menschen schrieben. Ihre Fähigkeiten haben sie von all denen geraubt, die ihre Schriftwerke dem Internet anvertrauten, seien es Zeitungsberichte, Blog-Artikel, Kommentare in den sozialen Medien oder wissenschaftliche Forschungsarbeiten. Eine Vergütung zahlen sie den Urhebern nicht. Doch der Konflikt um die faire Nutzung von Text-, Bild-, Ton- und Computercode-Autoren beginnt bereits. Medienhäuser und Urheber sind dabei, OpenAI, das Unternehmen hinter ChatGPT, zu verklagen.
Allerdings könnte die Qualität der großen Sprachmodelle sowieso schon angezählt sein. Immer mehr Netzinhalte, aus denen sich die Trainingsdaten speisen, werden mit Hilfe von ChatGPT erstellt. So können Sprachmodelle zunehmend nur das lernen, was sie vorher selbst geschrieben haben. Bisher zählen dazu erst Webseiten, die ausschließlich Werbeeinnahmen generieren sollen. Sie enthalten zwar einen Lauftext, der das Ranking bei Suchmaschinen optimieren soll, präsentieren dann aber Nachrichten, die mit so genannten Clickbait-Schlagzeilen psychologisch eine Neugierlücke erzeugen. Die verleitet Leser dazu, weiterzuklicken. Erkennbar sind solche Webseite an ihren grammatikalisch kuriosen Überschriften und an Satzwiederholungen. Mitunter finden sich auch nicht gelöschte ChatGPT-Kommentare, die das Sprachmodell ausgibt, wenn es nicht antworten kann.

„… KI in der Tasche …“

Die Sprachfähigkeit von ChatGPT und Konkurrenzmodellen ist aber nur ein kleiner Ausschnitt aus den enormen Fähigkeiten von KI. Sie wirkt hinter Bild- und Musikmodellen, macht Agrar- und Pflegeroboter schlau, lässt Fahrzeuge eigenständig navigieren, erleichtert zunehmend medizinische Diagnosen und industrielle Materialprüfungen.
Vor allem aber hat KI bereits seit vielen Jahren die Gesellschaft hochgradig digital vernetzt. Wie sehr, erahnt wohl kaum jemand. Allein das allgegenwärtige Smartphone ist eine KI in der Tasche. Besonders dann, wenn es auch noch mit zahlreichen KI-Gadgets verbunden ist, die die Gesundheit überwachen, den Tag organisieren oder dabei helfen, sich an neuen Orten zurecht zu finden. Eingebunden darin sind auch die digitalen sozialen Netzwerke, die Suche nach Informationen im Internet, Schreibhilfen als Diktat oder via ChatGPT, aber auch die Bildmanipulatoren, die Selfies verschönern.
KI ist eben nicht nur einfach eine neue Technologie, sie ist auch ein Werkzeug, um Gesellschaften zu organisieren. Wer dieses Werkzeug beherrscht, könnte Gesellschaften und Kulturen beherrschen.

KI-Ökosystem Schleswig-Holstein …

Auch Schleswig-Holstein strebt in die Welt. Hier entstand ein buntes und aktives KI-Ökosystem, ein produktives Konglomerat aus Forschern, Firmengründern, KI-kundigen Arbeitern und Angestellten.

Welche Vielfalt an KI-Unternehmen bereits im Land aufgewachsen ist, präsentiert die Webseite der Wirtschaftsförderung und Technologietransfer Schleswig-Holstein (WTSH). Und das große Schaulaufen der „KI made in Schleswig-Holstein“ fand Ende September 2023 während der vierten KI-Landeskonferenz in Flensburg statt. Hier präsentierten Wissenschaftler, Forscher und Tüftler zahlreiche KI-Aktivitäten, -Initiativen und -Produkte, zugeschnitten auf die mittel- und kleinständische Wirtschaft des Landes, aber schielend auf die KI-Märkte der Welt.
Denn ohne KI gibt es offenbar kein weiteres Wachstum von Produktivität und Gewinnen, ohne KI scheinbar auch weniger effiziente Verwaltungen. Aber Lösungen, die nur diese Ziele unterstützen, nutzen nicht das Potenzial von KI. Denn, so die Botschaft einiger Redner auf der Landeskonferenz, sie sollte vor allem auch den Menschen dienen – und sie nicht dazu bringen, sich ihr anzupassen.

… zwischen Wirtschaftswachstum und Ethik …

Die deutsche KI-Strategie, wie auch die Schleswig-Holsteins, ist aber erst einmal klar auf Wirtschaftswachstum ausgerichtet, auf Innovation und Anwendungsorientierung. Andere Länder, wie Frankreich, setzen in ihren Strategien nachdrücklich auf die gesamtgesellschaftliche Bedeutung. Sie setzen ihren Akzent auf eine KI im Dienste des Menschen.
Der Kieler KI-Experte Maximilian Middeke, CEO von Quantitative Semantics, bemängelt denn auch: „Wir entwickeln jetzt autonome Systeme, und wenn wir diese nicht so entwickeln, dass sie den Menschen dienlich sind, wenn die Anreizstruktur sich nicht am Menschen orientiert, sondern zum Beispiel an der Kapitalmehrung, dann werden wir uns in ein paar Jahrzehnten umgucken, wo wir gelandet sind.“
Immerhin wird der Ethik von KI-Entwicklungen seit einiger Zeit mehr Aufmerksamkeit geschenkt. Christian Herzog von der Universität Lübeck ist einer der noch wenigen KI-Ethiker. Für ihn soll KI nicht nur zuverlässig funktionieren, sondern vor allem vertrauenswürdig sein. „Es gibt aber keine wissenschaftliche Instanz, die der Wirtschaft ihre ethischen Fragen beantwortet. Wissenschaft kann sie nur dabei unterstützen, Ethik zu reflektieren.“ Er will helfen, über ethische Probleme tatsächlich erst einmal nachzudenken, um dann Lösungen zu finden. Ethik als Dienstleistung könnte man diese Hilfe zur Selbsthilfe nennen, ein Prinzip, das Forscher aus Oxford vor zwei Jahren in die KI-Szene einführten.

Clickwork – die Zukunft der KI-Arbeit?

Durch KI werden Arbeitsplätze verloren gehen. Das stimmt. Routinearbeiten, die sich nach immer gleichem Muster wiederholen, auch Verwaltungsvorgänge mit einfachen Entscheidungen, erledigt KI schon in wenigen Jahren schneller und effizienter.
Allerdings versprechen KI-Apologeten auch neue Arbeitsplätze. Darauf müssten sich die Menschen vorbereiten, sich weiterbilden – und sich trotz allem anpassen. Die Schlüsselrolle dafür liegt bei Schulen und Hochschulen, die sich selbst erst einmal dafür fit machen müssen. Um genau das zu erleichtern, hat Schleswig-Holstein immerhin zwölf neue KI-Professorenstellen ausgeschrieben, von denen jetzt acht besetzt sind.
In der Tat sind aber schon Millionen neuer KI-Arbeitsplätze entstanden. Denn künstliche Intelligenz ist im Grunde weder intelligent noch künstlich. Sie braucht viele Menschen, um überhaupt funktionieren zu können – aber nicht nur gut bezahlte Wissenschaftler, Forscher und Ingenieure.
Die meisten neuen KI-Arbeitsplätze entstanden nämlich im Schatten des KI-Hype: Millionen Clickworker überall auf der Welt überprüfen nämlich die Daten, auf der die Intelligenz der Maschinen beruhen. Sie ordnen Begriffe oder Sätze in Sinnzusammenhänge, markieren per Click anstößige Wörter oder Bilder, kennzeichnen Krankheitsbilder in medizinischen Aufnahmen oder Fehler in Werkstücken. Oft sind es sogar psychisch belastende Arbeiten. Ihre Löhne liegen jedoch weit unter allen gesetzlichen Mindestlöhnen, mitunter sind es nur 1,20 Euro in der Stunde. In Finnland beauftragen KI-Startups in Ermangelung von ausreichend Finnisch sprechenden Menschen inzwischen sogar Gefängnisinsassen mit diesen Arbeiten – für 1,50 Euro pro Stunde.
Dabei sind einige der Clickworker sogar hoch qualifiziert und könnten selbst Entwickler sein. Aber sie leben abseits der KI-Entwicklungszentren in armen Ländern, in denen es Probleme gibt, die eine KI nicht lösen kann.
Auch deutsche Universitäten, KI-Unternehmen und -Startups kommen nicht ohne dieses Heer an Clickworkern aus. Über die Ethik solcher Aufträge reflektieren KI-Forscher verständlicherweise nur selten.

Politische Wunschzettel … und die Wirklichkeit …

Smart Government, intelligent vernetztes Regierungs- und Verwaltungshandeln, steht hoch auf den Wunschzetteln von Politikern. Keine Faxe mehr schicken. Doch der Grad, auf dem sich eine Behörden-KI bewegen muss, ist äußerst schmal.
Auch die Landesregierung Schleswig-Holstein setzt auf das sogenannte datengeleitete Regierungshandeln, also auf Möglichkeiten, datenbasiert Entscheidungen zu treffen. Dazu will sie interne und externe Daten besser erschließen und nutzbar machen.
Die Bundesregierung will in einem ersten Schritt ihre Verwaltungen zumindest mit Chatbots und KI-Sprachmodellen aufpeppen. Auf der Kabinettsklausur Ende August ließ sie sich dazu von Experten beraten. Die aber warnten, wie das Online-Magazin Netzpolitik.Org berichtete: „Der Einsatz von KI-Systemen könnte teuer, intransparent und riskant sein.“
Den Verwaltungen fehle nämlich schlichtweg die Datengrundlage, so der OpenData-Aktivist und IT-Sicherheitsexperte Markus Drenger gegenüber dem Magazin. Denn dazu müsse jede zu digitalisierende Leistung in Zahlen erfassen werden, um die Qualität und Geschwindigkeit von Verwaltungsprozessen messbar zu machen.
Genau an dieser Datengrundlage versagen denn auch viele der ersten Chatbots, die immer mehr Verwaltungen einführen. Noch sind es recht rudimentäre Systeme, die in der Regel punktgenaue Eingaben brauchen, um Antworten zu finden.
Auf die Frage nach einer Führerscheinverlängerung in Flensburg präsentierte beispielsweise der Chatbot Govii eine Liste von 19 verschiedenen Themen, darunter „Waffenschein“ und „Befähigungsschein für die Durchführung von Begasungen“. Das Durchklicken durch die Menüs der Verwaltungswebseite wäre einfacher und schneller gewesen.
Solcher Mini-KI-Lösungen bedienen sich zunehmend mehr Unternehmen auf ihren Webseiten und lassen damit Nutzer und Kunden oft frustriert zurück. Wer böswillig ist, könnte vermuten, dass das so gewollt ist, um nervige Kunden abzuhalten.
Für den Informatiker Jürgen Geuter, Sachverständiger bei der öffentlichen Anhörung zum geplanten KI-Gesetz der EU, stellt sich sogar die Frage, ob die Behörden ihre Daten überhaupt gut genug überblicken, um seriös einschätzen zu können, wie gut die Qualität einer damit trainierten KI sein kann.
Weil ihnen dieser Überblick fehlt, sind öffentliche Verwaltungen durchaus anfällig für Grundrechtsverletzungen durch KI-Systeme. Genau das war den Vereinten Nationen im vergangenen Sommer eine Warnung wert. Diskriminierung kann nämlich nicht nur während der Entwicklung eines KI-Systems eingebaut werden, absichtlich oder unabsichtlich, sie kann auch dann zum Tragen kommen, wenn das System am Ende eingesetzt wird und die Datenbasis schlecht ist.

… KI im Testlauf …

Man denke nur an den Testlauf zur Gesichtserkennung am Berliner Bahnhof Südkreuz im Jahre 2018. Nach Abschluss des Tests berichtete das Bundesinnenministerium stolz in einer Presseerklärung, dass sich das System für den Einsatz im Polizeialltag bewährt habe. Schließlich habe es nur eine vernachlässigbar geringe Fehlerquote von 0,1 Prozent. Das klingt wenig. Aber pro Jahr passieren eine halbe Milliarde Reisende den Bahnhof, was immerhin eine halbe Million falscher Erkennungen bedeutet.
Fatal wird es, wenn Behörden sich KI-kompetent fühlen, nur weil sie zuständig sind. So hatten einige regionale Gesundheitsbehörden in Schweden eine KI-Lösung in den USA gekauft. Sie sollte die Patienten nach Dringlichkeit der Behandlung einsortieren, wenn sie telefonisch oder per Internet ihre Beschwerden melden. Das System sollte die Krankenschwestern ersetzen, die bis dahin die Dringlichkeitsstufen in Telefongesprächen einschätzten.
Die KI versagte, brachte die Behandlungsprioritäten durcheinander und gefährdete auf diese Weise viele Patienten, wie das schwedische Fernsehen vor einem Jahr aufdeckte. Hinzu kam, dass die KI-Lösung nicht einmal europäischen Datenrechtsregeln entsprach und alle Patientendaten auf einem Server in den USA landeten. Ärzte waren weder in die Planung- noch in die Testphase eingebunden. Es reichte, dass der Projektleiter einer der Behörden einst Medizin studiert hatte.
Jörn von Lucke von der Zeppelin-Universität Friedrichshafen warnte 2018 davor, Behörden beim Einsatz von KI-Lösungen allein zu lassen:

„Schließlich verlocken die Einfachheit der Datenerfassung, die Verfügbarkeit der Datenbestände und die leichte Bedienbarkeit vorhandener Analyse- und Steuerungssoftware zu vielfältigen Ansätzen der Beobachtung der Bürger und ihres Verhaltens. All dies kann, wenn weder regulierend noch begrenzend eingegriffen wird, rasch in einem technisch aufgerüsteten Überwachungsstaat unter Kontrolle weniger Spezialisten münden, in dem zunehmend sich selbst steuernde autonome Systeme eigenständig Entscheidungen in Staat und Verwaltung treffen.“

… und ihr Siegeszug …

Der Aufstieg der KI mag angebrochen sein, ihr Siegeszug unaufhaltsam. Aber noch ist lange nicht ausgemacht, ob das Rückgrat wissenschaftlicher Durchbrüche und wirtschaftlichen Wachstums auch den Menschen und dem Lebenserhaltungssystem „Erde“ dienen kann, ob es Gesellschaften gerechter macht. Der Aufstieg des Internet ab den 1990er Jahren hat wenige Unternehmen und deren Besitzer und Teilhaber unendlich reich gemacht, reicher als manche Staaten. Die Schere zwischen Arm und Reich ist heute so weit aufgerissen, wie seit dem Mittelalter nicht mehr. Nicht ausgeschlossen, dass die KI-Revolution die Wohlstandsunterschiede noch einmal mehr verstärkt.
Denn nur wenige Unternehmen, wie Google, Amazon, Meta oder Aliyun, verfügen über die schnellen Rechner, die gewaltigen Speicherkapazitäten und die riesigen Datenmengen, ohne die KI nicht laufen würde. KI-Unternehmen haben in der Regel keine eigenen, derart umfangreichen Kapazitäten. Entwickler und Startups müssen bei ihnen Rechenzeiten mieten und Lizenzen für die Datennutzung kaufen – es sei denn sie holen die Riesen mit ins Boot, so wie OpenAI, dessen größter Teilhaber jetzt Microsoft geworden ist.
Auf die zunehmenden KI-Anwendungen reagieren die großen Digitalfirmen mit immer stärkerem Zubau von Rechenzentren und Serverfarmen überall auf der Welt. Die brauchen vor allem viel Strom und viel Wasser: Strom um die Rechnerkerne und Speicher zu betreiben, Wasser um die entstehende Wärme zu kühlen.
Einige bauen ihre Serverfarmen zwar schon in kälteren Weltgegenden, wo die Außenluft für Kühlung sorgt, so wie China Mobile, das in Hohhot in der Mongolei auf 700. 000 Quadratmetern eines der größten Rechenzentren der Welt betreibt. „Wenn man aber ein paar Nummern kleiner schaut, werden aktuell sehr viele Modelle trainiert und man muss sich – vielleicht ähnlich wie bei Tierversuchen – fragen, was das Verhältnis von Aufwand und Nutzen beziehungsweise Erkenntnisgewinn ist“, meint Ute Schmid, Leiterin der Arbeitsgruppe Kognitive Systeme der Universität Bamberg, wenn sie vom Energieverbrauch der Großrechner spricht.
Der Wasserverbrauch der Datenzentren wurde bisher wenig beachtet. Dabei gehört der Süßwassermangel angesichts des Klimawandels, des Bevölkerungswachstums und der schwindenden Wasserressourcen zu einem der drängendsten Weltprobleme. In einer aktuellen Studie fanden Forscher der Universität von Kalifornien in Riverside heraus, dass die Rechenzentren von Google, Microsoft und Meta in den USA im Jahre 2022 schätzungsweise 2,2 Milliarden Kubikmeter Frischwasser in Kühltürmen verdampften, so viel wie ganz Dänemark in zwei Jahren.

… aber die Debatte hat erst begonnen …

In ihrem Fünf-Punkte-Programm „Künstliche Intelligenz für Umwelt und Klima“ zeigt sich die Bundesregierung zwar überzeugt, dass KI mit Umwelt und Gemeinwohl vereinbar ist, beides sogar fördern und befruchten kann, doch allein es fehlen die Daten, die das belegen.
Die Debatte hat gerade erst begonnen. Es wäre zu wünschen, dass KI-Forscher, -Entwickler und -Nutzer diese Themen selbst tief genug reflektieren und sich den Fragen der Gesellschaft offen stellen, die früher oder später auf sie zukommen werden. Der Versuch, nur Akzeptanz für KI zu generieren, die Menschen zu überzeugen, ist langfristig wahrscheinlich nicht unbedingt zielführend.

TEXT Hanns-J. Neubert (ScienceCom)
ILLUSTRATION Katharina Grzeca