Damit hatte niemand gerechnet …
Das Unternehmen OpenAI aus San Francisco veröffentlichte am 30. November 2022 sein Sprachmodell namens ChatGPT im Netz. Eigentlich war es als „Forschungsvorschau“ gedacht. Doch binnen fünf Tagen hatten sich eine Million Nutzer bei OpenAI registriert, um ChatGPT auszuprobieren. Zweieinhalb Monate hatte es dagegen beim sozialen Netzwerk Instagram gedauert, fünf Monate beim Audio-Streaming-Dienst Spotify. Seit März ist die jetzt kostenpflichtige, vierte Version des von ChatGPT online. Weit über 100 Millionen Nutzer tragen inzwischen durch die Nutzung des Systems dazu bei, es weiter zu trainieren und zu verbessern.
ChatGPT selbst schreibt auf die Frage nach dem Stromverbrauch für das Training seiner selbst: „Eine grobe Schätzung legte nahe, dass das Training die gleiche Menge an Energie verbrauchen könnte, wie der durchschnittliche amerikanische Haushalt in sechs Jahren verbraucht.“
Der größte Diebstahl der Menschheitsgeschichte?
Die Spezialität dieses großen Sprachmodells (Large Language Model, LLM) ist es, Texte zu schreiben, sich an den Zusammenhang eines schriftlichen Gesprächsaustauschs zu erinnern und die dazu passenden Antworten zu erzeugen. Es beantwortet glaubhaft und höflich Fragen, analysiert und schreibt sogar Programmcodes. Die Basis ist eine künstliche Intelligenz (KI) namens „Generative Pretrained Transformer“ (GPT), die selbständig und selbstüberwacht Texte aus Büchern, Briefen, Wikipedia-Einträgen, literarischen Textsammlungen aus den Weiten des Internet erfasst und dabei die sprachlichen Muster erkennt und unterscheidet. Dazu bedient es sich eines künstlichen neuronalen Netzes mit 1,5 Milliarden Knotenpunkten, das die Funktionen des menschlichen Gehirns mit seinen 100 Milliarden Neuronen nachahmen soll.
Für den Wissenschaftsjournalisten Rangar Yogeshwar ist das denn auch der „größte Diebstahl in der Menschheitsgeschichte. In einem Interview mit den Augsburger Nachrichten sagte er: „Die reichsten Unternehmen der Welt wie Microsoft, Apple, Google, Meta oder Amazon bemächtigen sich der Summe des menschlichen Wissens. Also aller Texte, Kunstwerke, Fotografien und so weiter, die in digital verwertbarer Form existieren, um dieses Weltwissen dann in eigentumsrechtlich geschützten Produkten einzumauern.“
Seit der Veröffentlichung von ChatGPT ist inzwischen ein ganzer Zoo ähnlicher Sprachmodelle zusammengekommen. Darunter Google mit Bard, Microsoft mit Bing als Bestandteil des Edge Browsers, oder die chinesische Baidu-Suchmaschine mit dem Ernie-Bot. Weltweit basteln zahlreiche kleinere Unternehmen an ähnlichen Lösungen. Sie sind vorwiegend in den USA und China beheimatet, aber auch Deutschland schlägt sich recht gut auf dem sechsten Platz der KI-Nationen.
Selbst für ureigene kreativ-künstlerische Bereiche gibt es inzwischen mehr als 20 KI-Anwendungen, mit denen sich Bilder und Gebrauchstexte erstellen lassen. Darunter die Bildgeneratoren Dall-E-2, ebenfalls von OpenAI, oder Midjourney. Die kanadische PhilosopherAI will helfen, einen Sinn in einer sinnlosen Welt zu finden. Autoren kurzer Unternehmenstexte oder Blog-Verfasser können auf das deutsche MindverseAI von Relativity zugreifen, die Online-Anwendung des Hamburger Unternehmens Neuroflash generiert sowohl Bilder, wie auch Texte.
Die täglichen Power-User …
Wer eigentlich das bisher wahrscheinlich mächtigste und am weitesten verbreitete Sprachmodell ChatGPT benutzt, ist nicht nicht wirklich klar. „Wir dürfen davon ausgehen, dass Schülerinnen und Schüler sowie Studierende tägliche Power-User dieses Systems sind“, meint Doris Weßels von der Fachhochschule Kiel, die sich seit Jahren mit KI in der Hochschullehre beschäftigt. „Umfragen sind wenig aussagekräftig, denn sowohl Schüler wie auch Studierende haben vielfach den Eindruck, die Nutzung sei illegal.“
Damit trifft Weßels einen Kern: Schulen und Hochschulen hat nämlich ein Erdbeben erwischt und viele bekannte Routinen sind zusammengebrochen.
ChatGPT als Lernhelfer?
Wenn an den Hochschulen Hausarbeiten oder Abschlussarbeiten abgegeben werden, müssen die Studenten eine Erklärung abgeben. Früher nannte man das eidesstattliche Versicherung, jetzt heißt es „Eigenständigkeits- oder Selbstständigkeitserklärung“. Darin versichern die Verfasser, dass sie alles eigenständig und selbständig erarbeitet haben unter Angabe der Quellen. Aber: „Das passt nicht mehr in eine Zeit, wo man gemeinsam mit diesen Tools schreibt. Was ist da eigenständig?“, fragt sich die Hochschullehrerin.
Inzwischen hat sich als Konsens eine Kennzeichnungserklärung durchgesetzt, die Weßels schon länger fordert. Darin sollte grob angegeben sein, welche Online-Werkzeuge die Kandidaten einsetzten und was sie mit ihnen machten. „Aber man kann gar nicht mehr genau trennen: Was ist KI-Tool, was ist kein KI-Tool? Manche Hochschulen reagieren völlig überzogen und verbieten KI-Werkzeuge.“ Schließlich ist ja schon eine normale Suchmaschine eine Software mit KI im Hintergrund.
ChatGPT hat inzwischen schon diverse Hochschulprüfungen bestanden. Mit herkömmlicher Plagiatssoftware sind auf diese Weise erzeugte Prüfungstexte praktisch nicht erkennbar. Bisherige Versuche, mit KI andere KI-Texte zu erkennen, waren nicht überzeugend. Wenn eine Maschine aber Prüfungen bestehen kann, dann heißt das auch, dass die Prüfungsvorgaben selbst vielleicht nicht so sinnvoll waren.
Schulen und Hochschulen stehen mit dem Erscheinen der Sprachmodelle jedenfalls vor einem gravierenden Wandel, ist Weßels überzeugt.
Studierende wüssten nicht mehr, was sie dürften und was nicht, Lehrende würden im Regen stehen gelassen. Die Professorin hört immer wieder Klagen von Hochschullehrenden und Studierenden, dass die Führungsebenen der Hochschule bis heute den KI-Einsatz nicht regeln, sondern einfach an die Fachbereiche und Institute delegieren würden. „Jeder für sich allein soll das irgendwie klären.“ Auch die Justiziare seien vielfach mit der komplexen Thematik überfordert. „Die Überforderung bei dieser digitalen Disruption kann ich gut nachvollziehen. Man muss es den Menschen zeigen, man muss es ihnen erklären, sonst entstehen Missverständnisse.“
Wenn Mensch und Maschine gemeinsam schreiben, kommt auch schnell die Frage nach der Urheberschaft auf, danach, wem der Text eigentlich gehört. Gehört er denen, die die KI befragen und mit ihr einen Dialog führen, gehört sie den Programmierern der KI oder den Milliarden Autoren im Internet, mit deren Texten sich die KI schlau gemacht hat?
… eine ganz große Chance?
Wie groß die Unsicherheit ist, merkt Weßels an den zahlreichen Anfragen an das Kompetenzzentrum zum Schreiben mit Künstlicher Intelligenz, das sie mit einigen Mitstreitern bereits vor der Veröffentlichung von ChatGPT am 1.September 2022 gründete: „Wir sind zu Zwölft, aber wir schaffen es nicht, all diese Anfragen abzuarbeiten.“
Dass KI-Chatbots dennoch sehr gut in der Lehre als Möglichkeit zum Selbstlernen eingesetzt werden können, erläutert sie anhand zweier Beispiele. Zum einen können sie als Vokabeltrainer dienen, so dass Schüler sich in Eigenarbeit und in ihrem eigenen Lerntempo einer neuen Sprache nähern können. Auch als Trainer für diejenigen, die nur schwer Zugang zur Mathematik haben, sind sie sinnvoll. Von ChatGPT kann man sich wieder und wieder beispielsweise einfache mathematische Formeln wie z.B. die binomische Formel (a+b)2 oder (a-b)3 in immer neuen Erklärvarianten näherbringen lassen. Denn in so einem geschützten Raum ist niemand da, den man nervt, wenn man immer wieder dieselbe Frage stellt. Zu beachten sei aber, dass die Systeme noch zu sogenannten Halluzinationen neigen, d.h. inhaltlich komplett daneben liegen können. Von daher sei auch immer Vorsicht und sorgfältige Prüfung der Ergebnisse angebracht.
Perspektivisch sieht Weßels aber eine ganz große Chance: „Ich habe die Möglichkeit, mir Wissen anzueignen in einer Form, die ich zuvor nie hatte. Es ist sozusagen eine völlig neue und andere Form des Lernens, wo ich viel mehr selber bestimmen kann, ganz individuell nach meinen Neigungen und nach meinen Interessen, und das empfinde ich auch als sehr großen Vorteil.“
Deshalb müsse sich auch in der Lehre viel ändern: „Wenn man sich mit den frei zugänglichen Tools eine Fülle von Lehrinhalten selbst erarbeiten kann, dann passt eine Vorlesung, in der einer vorne einen Monolog hält, nicht mehr in die Zeit.“
Es heißt oft, dass solche KI-Systeme nicht wirklich kreativ sein können. Doch Weßels meint: „Ich glaube inzwischen, dass das Gegenteil der Fall ist. Durch solche Systeme gibt es auch einen Kreativitätspush.“
Zum Beweis surft sie auf ihrem Bildschirm zu ChatGPT und fragt spontan nach zehn Geschäftsideen für die Verbindung von Altenpflege und Nachhaltigkeit. Die Antworten kommen in Sekunden. Von diesen zehn Ideen ließe sich nun eine auswählen, die man im Dialog mit ChatGPT detaillierter ausarbeiten könnte. „Hier bekommt man auf Knopfdruck sekundenschnell eine gute Diskussionsgrundlage und steigt somit viel schneller in die Auseinandersetzung zu einer Fragestellung ein“, meint Weßels.
ChatGPT – zwischen Halluzination und Reflexion
Doch man sollte nicht vergessen, dass ChatGPT nach wie vor halluziniert, wie die falschen Antworten bezeichnet werden. Ein relativ großer Teil, so um die 30 Prozent, stimmt einfach nicht. Somit dürfen Nutzer nicht immer alles glauben, was da an generierten Texten auf dem Bildschirm erscheint. Um eine Plausibilitätsprüfung oder Nachrecherche kommen sie nicht herum. Allerdings dürfte dieses Problem mit einer der folgenden Versionen wohl größtenteils behoben werden.
ChatGPT ist eine Sprachmaschine, keine Wissensmaschine, und für logische und mathematische Problemlösungen (noch) nicht ausgelegt, wie der Hamburger Mathematiker Dietrich Weller herausfand. Er versuchte beispielsweise ein sogenanntes griechisch-lateinisches Quadrat der Größe 6 lösen zu lassen. Konkret: Es gibt 36 Personen, 6 verschiedene Blumen und 6 verschiedene Kleidungsstücke. Keine zwei Personen tragen dieselbe Blume und dasselbe Kleidungsstück. In jeder Reihe und jeder Spalte kommen alle sechs Blumen und alle sechs Kleidungsstücke einmal vor. ChatGPT beschrieb das Problem durchaus richtig. Aber um ein Beispiel gebeten generierte es entgegen der Regel immer wieder doppelte Einträge. Es erkannte einfach nicht, dass diese Aufgabe gar nicht lösbar ist.
Ein Sprachmodell kann halt nicht reflektieren, also nicht selbständig Fehler erkennen. Es gibt nur das wieder, was es in den Tiefen des Internet gefunden hat. Wellers Resümee: „Die Frage Mensch oder Maschine wird bei diesem Test beantwortet mit: Wenn Mensch, dann kein Mathematiker.“
… in atemberaubernder Geschwindigkeit …
Mit dem Auftauchen der KI-Sprachmodelle lassen sich in naher Zukunft natürlich zahlreiche Aufgaben an Maschinen delegieren. Damit wird sich der Arbeitsmarkt gravierend ändern, wie die Wirtschaftsdatenanalysten Timothy Owens und Vadim Makarenko von Statista prognostizierten. „In den nächsten fünf Jahren werden 83 Millionen Jobs verloren gehen, aber nur 69 Millionen neu entstehen“, erläuterten sie in einem Seminar. In Europa dürfte bis 2027 ein Viertel aller Tätigkeiten automatisiert werden, vor allem Büroberufe. Facharbeiter und Handwerker lassen sich dagegen kaum ersetzen.
Weßels sieht damit eine andere Gefahr aufziehen: „Es ist eine große Herausforderung, wenn man einfache Aufgaben delegiert. Wir werden abhängig davon und unsere Kompetenzen in diesen Bereichen werden sich wahrscheinlich zurück entwickeln. Wir vertrauen darauf, dass es funktioniert. Aber ob das dann alles richtig ist, das werden wir immer weniger beurteilen können.“
Die Geschwindigkeit, mit der die Entwicklungen in der KI voranschreiten, ist atemberaubend. Das Gespräch mit Professor Weßels fand im Mai 2023 statt. Wenn dieser Text erscheint, kann er in Teilen schon von neueren Sprachmodellvarianten überholt sein.
„Wir sind so atemlos und so getrieben durch diese Entwicklung, weil sie so unglaublich schnell ist. Uns beschleicht zunehmend mehr das Gefühl, dass wir als Individuum, aber auch als Gesellschaft nicht mehr hinterherkommen können. Wir sehen das sehr deutlich bei der Regulierung von KI: Wir diskutieren und diskutieren, während schon die nächste und übernächste Technologiestufe erreicht ist. Das heißt, die technologische Entwicklung ist so schnell und so dynamisch, dass alles andere – gefühlt – immer mehr abgehängt wird.“
Denk-Pause … und hinter den Kulissen …?
Es scheint, als ginge auch den KI- und Chatbot-Entwicklern alles zu schnell. Ende März forderten inzwischen weit mehr als 30.000 Unternehmer, Wissenschaftler und KI-Pioniere ein Moratorium für die Weiterentwicklung von allen Sprachmodellen, die über ChatGPT-4 hinausgehen. Sie forderten quasi eine Denkpause, vor allem auch, damit Gesellschaft und Regierungen ethische und juristische Fragen klären können, um so auch die Systeme sozial, rechtlich und ethisch anpassen zu können. Doch soziale, juristische und ethische Einstellungen sind kulturell geprägt. Asiaten oder Afrikaner dürften durchaus andere Auffassungen haben, als Nordamerikaner und Europäer.
Zu den Erstunterzeichnern gehörten Apple-Gründer Steve Wozniak und Tesla-Chef Elon Musk, der sich als einstiger Mitgründer von OpenAI inzwischen von dem Unternehmen getrennt hat. Auch Konkurrenten von ChatGPT haben unterzeichnet – nicht aber Sam Altman, der OpenAI-Chef selbst.
Weßels sieht darin deshalb ein klar zu durchschauendes Spielchen. „Hier wird hinter den Kulissen mit härtesten Bandagen um einen Multi-Milliardenmarkt gekämpft. Die Berater der Unternehmen werden sich Strategien überlegt haben, wie sie es hinbekommen, das marktführende System auszubremsen. Ich glaube, man will nur Zeit gewinnen, um hier eine Aufholjagd zu starten. Außerdem werden sich die chinesischen Anbieter doch überhaupt nicht danach richten.“
Das ist auch die Meinung vieler anderer internationaler KI-Experten – auch vieler deutscher, von denen nur wenige dem Aufruf gefolgt sind.
Der Einzug von Programmen wie ChatGPT an Hochschulen wird sich nicht aufhalten lassen, das ist sicher. In seiner Studie „Demokratie in der digitalen Transformation“ für die Körber-Stiftung schrieb der Philosoph Julian Nida-Rümelin vor einem Jahr: „Bildung kann durch den Einsatz digitaler Tools, durch digitales Feedback, durch die Begleitung des Lernfortschritts und der Lehrpraxis verbessert werden.“ Aber er ergänzte: „Die Ersetzung von Lehrkräften durch Roboter und damit der Verlust der interpersonalen Beziehung im Bildungsgeschehen wäre dagegen ein Niedergang der Humanität.“
Mehr zum Thema KI:
Was macht es mit den Menschen, wenn Computer durch KI automatisch Zeitungsartikel, Kurzgeschichten, Gedichte oder gar wissenschaftliche Abhandlungen schreiben? Für Doris Weßels wirft das Fragen auf, die dringend Antworten brauchen.
„Megatrend ChatGPT – Aufstieg oder Untergang„: ME2BE berichtet über die Veranstaltung der DiWiSH und des KI-Transfer-Hub SH im Wissenschaftszentrum in Kiel
Chancen und Risiken von ChatGPT an Schulen: ME2BE hat Eindrücke der Veranstaltung „ChatGPT im Klassenzimmer – hype oder real?“ gesammelt
TEXT Hanns-J. Neubert
ILLUSTRATION Ibou Gueye
FOTO FH Kiel