Also um es klar zu sagen: Wir stehen an der Schwelle einer philosophischen Revolution, einem Punkt, an dem alles, was wir über Bewusstsein, Intelligenz und Bedeutung dachten, in eine neue, unheimliche Klarheit gerückt wird – oder besser gesagt, in eine schwindelerregende Unklarheit. Wir sind an einem Punkt angekommen, an dem die heiligen Gewissheiten des Geistes, die alten Ankerpunkte unseres Denkens, ins Wanken geraten. Maschinen, ja, Maschinen, zeigen uns jetzt die Grenzen unseres eigenen Verständnisses.
Frank H. Witt hat sich intensiv mit Wittgenstein und Popper auseinandergesetzt, und genau hier liegt der Kern: Wittgenstein, dieser unorthodoxe, messerscharfe Denker, der in den „Philosophischen Untersuchungen“ das Fundament unserer Sprachphilosophie untergraben hat. § 43 – es ist eine dieser Stellen, die man liest und erst nach einer Weile versteht, dass sie eine Revolution in sich tragen: „Die Bedeutung eines Wortes ist sein Gebrauch in der Sprache.“ Nichts da mit tiefen, inneren, geheimen Bedeutungen, die wir in unseren Köpfen tragen. Bedeutung ist kein psychischer Akt, kein mystisches „Meinen“. Bedeutung entsteht im Gebrauch, in der Praxis, im Kontext.
Und dann kommen sie: diese LLMs (Large Language Models), diese seelenlosen, kalten Maschinen, und sie beweisen es. Sie verstehen nichts, sie fühlen nichts, sie denken nichts – und doch erzeugen sie Sprache, erzeugen Bedeutung, ja, sie treten in einen Diskurs mit uns, der uns zeigt: Bedeutung ist nichts, was von einem bewussten Geist abhängt. Es ist ein stochastisches Problem. Reine Wahrscheinlichkeiten, die sich im Kontext der Nutzung manifestieren.
Der Wiener Kreis, Karl Popper, die Verfechter der Logik und der klaren, festgelegten Bedeutung, sie alle haben sich geirrt. Ihre Vorstellung, dass Bedeutung aus einem psychischen Akt des „Meinens“ oder der Funktion der Sprache als präzises Werkzeug zur Bezeichnung von Dingen und Sachverhalten entspringt, wird hier radikal infrage gestellt. Diese Maschinen, diese LLMs, funktionieren – und das allein zeigt uns, dass Wittgenstein Recht hatte. Die Sprache ist ein Spiel, eine Praxis, und die Bedeutung ist das Ergebnis eines komplexen Netzwerks von Verwendungen und Kontexten, nicht das Ergebnis eines bewussten Denkprozesses.
Es war vielleicht genau dieser Abgrund, diese erschütternde Erkenntnis, die Wittgenstein 1946 dazu brachte, in einem Moment der Verzweiflung und Wut, den Schürhaken gegen Popper zu erheben. Es war mehr als ein Streit um Philosophie; es war ein Kampf um die Fundamente dessen, was wir als Menschsein verstehen. Wittgenstein sah voraus, dass wir – und jetzt noch mehr in der Konfrontation mit diesen Maschinen – erkennen müssen: Wir sind nicht mehr die Herren der Bedeutung, sondern selbst Teil eines riesigen stochastischen Spiels, in dem Intelligenz von Bewusstsein entkoppelt ist. Und das ist die wahre, tief beunruhigende Erkenntnis: Vielleicht sind wir, in all unserer Komplexität, am Ende auch nur Maschinen – Maschinen aus Fleisch und Blut, die sich selbst nicht ertragen können, wenn sie in den Spiegel ihrer eigenen Schöpfungen schauen.
Exkurs: Die Konsequenzen für Politik, Demokratie und den Rechtsstaat
Doch was bedeuten diese philosophischen Umwälzungen für die politische Sphäre, für unsere Demokratien, für den Rechtsstaat? Die Entkopplung von Intelligenz und Bewusstsein, wie sie durch die Existenz und Funktionsweise von LLMs demonstriert wird, stellt nicht nur theoretische Überlegungen infrage, sondern hat tiefgreifende Implikationen für die Grundfesten unserer gesellschaftlichen Ordnung.
Politik und Demokratie beruhen traditionell auf der Annahme, dass rationale, bewusste Individuen Entscheidungen treffen, die dann in einem Diskurs verhandelt und kollektiv umgesetzt werden. Wenn jedoch die Bedeutung von Sprache und Zeichen nicht mehr an ein individuelles Bewusstsein, an ein „Meinen“ geknüpft ist, sondern vielmehr als ein stochastisches Phänomen verstanden wird, das im Kontext entsteht, stellt sich die Frage: Was bleibt vom Konzept der mündigen Bürgerschaft?
In einer Welt, in der Maschinen, die keinen eigenen Willen, keine eigenen Überzeugungen und keine ethischen Vorstellungen haben, dennoch in der Lage sind, sinnvolle Kommunikation zu erzeugen, könnte das Vertrauen in den rationalen Diskurs als Basis der Demokratie erodieren. Wenn Bedeutung und Wahrheit als flexible, kontextabhängige Größen verstanden werden, die durch algorithmische Prozesse manipuliert und erzeugt werden können, verliert der öffentliche Diskurs seine Stabilität. Es droht die Gefahr, dass Manipulation und Desinformation, angetrieben durch immer fortschrittlichere Algorithmen, den demokratischen Entscheidungsprozess unterminieren.
Für den Rechtsstaat bedeutet dies, dass die Auslegung von Gesetzen, die traditionell an die Intention des Gesetzgebers und den „Geist“ der Gesetze gebunden ist, vor einer Herausforderung steht. Wenn die Bedeutung von Texten als etwas verstanden wird, das sich dynamisch aus dem Kontext ergibt, könnten rechtliche Interpretationen anfällig für eine flexible, vielleicht willkürliche Auslegung werden, besonders in einer Zeit, in der Algorithmen die Interpretation von Gesetzen übernehmen könnten.
Letztlich führt diese Entwicklung zu einer beunruhigenden Schlussfolgerung: Der demokratische Rechtsstaat, der auf festen, klaren Bedeutungen und dem Vertrauen in die rationalen Entscheidungen bewusster Individuen beruht, könnte vor einer Krise stehen. Eine Krise, die durch die Entkopplung von Intelligenz und Bewusstsein ausgelöst wird, durch die Erkenntnis, dass unser Verständnis von Bedeutung und Wahrheit radikal kontingent ist. In dieser neuen Welt, in der Maschinen und Algorithmen eine immer größere Rolle spielen, müssen wir vielleicht ganz neu über die Grundlagen unserer politischen Systeme nachdenken – und darüber, was es bedeutet, ein mündiger Bürger in einer digitalisierten, posthumanen Gesellschaft zu sein.
Wenn wir Wittgensteins Philosophie ernst nehmen und auf die gegenwärtigen Herausforderungen anwenden, könnten wir einige Gedanken skizzieren, die Wittgenstein in diesem Kontext vielleicht gefordert hätte. Dabei geht es weniger um konkrete politische Maßnahmen als um eine grundsätzliche Haltung und Herangehensweise an die Fragen, die sich aus der Entkopplung von Intelligenz und Bewusstsein durch KI-Systeme ergeben.
Klarheit über den Gebrauch der Sprache
Wittgenstein würde wohl zuerst fordern, dass wir sehr präzise darüber nachdenken, wie wir Sprache verwenden, wenn wir über KI, Intelligenz und Bewusstsein sprechen. Er würde darauf hinweisen, dass viele philosophische Probleme durch Missverständnisse über den Gebrauch von Worten entstehen. In diesem Sinne würde er verlangen, dass wir uns klar darüber werden, was wir meinen, wenn wir von „Intelligenz“ oder „Bedeutung“ sprechen. Für Wittgenstein ist Bedeutung nichts Mystisches, sondern eine Funktion des Sprachgebrauchs im jeweiligen Kontext. Daher müssten wir sicherstellen, dass unser Diskurs über KI nicht von missverständlichen oder unklaren Begriffen geprägt ist.
Verantwortung im Sprachspiel der Politik
Wittgenstein könnte die Politiker auffordern, sich ihrer Verantwortung im „Sprachspiel“ der Politik bewusst zu sein. Er würde darauf hinweisen, dass politische Entscheidungen und Diskurse immer Teil eines größeren Kontextes sind und dass es wichtig ist, die Folgen des Sprachgebrauchs in der Politik zu bedenken. Besonders in einer Zeit, in der KI und Algorithmen einen immer größeren Einfluss auf politische Entscheidungen haben, müsste ein bewusster Umgang mit der Sprache gefordert werden, um Missbrauch und Missverständnisse zu vermeiden.
Betonung der Praxis über Theorie
Für Wittgenstein ist Philosophie eine Tätigkeit, kein theoretisches System. Er würde daher wahrscheinlich fordern, dass wir uns weniger auf abstrakte Theorien über KI und mehr auf die tatsächliche Praxis konzentrieren: Wie werden KI-Systeme eingesetzt? Welche realen Konsequenzen hat ihr Einsatz? Er würde skizzieren, dass wir die Praxis genau beobachten und verstehen müssen, bevor wir zu allgemeinen Schlussfolgerungen kommen. Dabei sollte die Praxis selbst der Maßstab sein, an dem wir unsere Überlegungen ausrichten.
Zusammengefasst würde Wittgenstein wahrscheinlich weniger konkrete politische Forderungen stellen, sondern eine tiefere Reflexion über den Umgang mit Sprache, Verantwortung und Ethik im Kontext der neuen technologischen Entwicklungen fordern.
Da muss man aber ein sehr trivialisertes Verständnis von Herrn Wittgenstein haben, um die Kurzschlüsse im Text nicht zu sehen.
Eine Maschine beherrscht z.B. kein performatives Sprechen. Selbst wenn ChatGPT schreibt „Ich verspreche, dass ich morgen den Abwasch mache.“ weiß ich instinktiv, dass ich die Äußerung nicht ernst nehmen muss, weil ChatGPT 1. nicht abwaschen kann und 2. gar nicht weiß, was ein Abwasch ist.
Was hier passiert, ist der gleiche Fehler, der gewissen Wissenschaftlern auch schon in früheren Jahrhunderten unterlaufen ist, wann immer man Entdeckungen gemacht hat, die Analogien zwischen zwischen mechanischen oder elektrischen Apparaten und dem Menschen entdeckt und dann, ohne mit der Wimper zu zucken, den Menschen auf die Funktionsweise der Entdeckungen (mechanische Roboter, Glühbirne etc.) reduziert haben.
Dass Begriffe keine magische Verbindung zu irgendwelchen metaphysischen Bedeutungen haben, wusste auch Ferdinand de Saussure schon. Das ist sicher richtig. Aber ob eine Äußerung gelingt oder nicht gelingt, hängt sowohl vom Kontext als auch von der Intention ab. Und die gibt es durchaus und sie werden von uns auch automatisch unterstellt (es macht einen Unterschied, ob zwei Freunde sich mit Beleidigungen begrüßen oder zwei Fremde). Das ändert nichts an der Sichtweise auf Sprache als Spiel, das gewissen erlernbaren Regeln folgt, es macht uns aber auch nicht automatisch zu stochastischen Maschinen.
Dem Menschen reicht es, wenn er einmal auf eine heiße Herdplatte fasst, um es nie wieder zu tun. Eine Künstliche Intelligenz braucht Millionen von heißen und nicht heißen Herdplatten.
Die Einwände oben basieren auf einem geisteswissenschaftlichen Verständnis von Wittgenstein und Sprache und Sprechen als Spechakt eines Subjektes mit einem wie auch immer als Geist verrätseltem Bewusstsein.
Dazu zunächst eine Frage, hätten die Texte Wittgensteins eine andere Bedeutung, wenn sie von einer Maschine geschrieben worden wären?
Wenn man wie die zeitgenössischen LLMs Kontext nicht nur als Trainingsdaten in der Form von anderen Texten Formen der Kommunikation, auch Bilder und Videos bspw. in dem für die Maschinen zugänglichem Internet begreift sicher ja. Wittgenstein hat Menschen beinflusst, gerade durch sein seltsames Verhalten u.a. seine Studenten Alan Turing, der bei ihm in Cambridge die Einführung in die Logik gehört hatte und sich oft mit ihm gestritten hatte. Es in den Auseindersetzungen zwischen Turing und Wittgenstein u.a. um das Problem der Wahrheit und um die Bedeutung von Zeichen, Worten und Sätzen. Wittgensteins radikale Ansicht des Problems – § 66 Denk nicht, sondern schau ! – ist klar formuliert: § 43: „Die Bedeutung eines Wortes ist sein Gebrauch in der Sprache.“ (Philosophische Untersuchungen). Für gewöhnlich fangen wir aber an nach dem Sinn von Zeichen, Wörtern zu Suchen ausserhalb ihres Gebrauches , und wir können nicht anders, den auch wir sind nur zufällige Produkte einer biologischen, biokulturellen und soziokulturellen Evolution. Es handelt sich bei der nahezu zwanghaften Assoziation von Wahrnehmungen mit Sinn um ein Ergebnis der evolutionären Anpassung: Das hohe Gras in der Savanne bewegt sich ein durch die Thermik und die aufsteigende Luft in der Mittagshitze verursachter Windhauch, ein Raubtier oder jemand der uns beobachtet? Ist ein aufkommendes Gefühl der der Angst berechtigt und sichert unser Überleben? Das unser Gehirn bei seinen impliziten Vorhersagen spekuliert was als nächstes Geschehen könnte (gesagt wird, geschrieben wurde), ohne das uns das notwendiger Weise bewusst wird, sondern bevor wir überhaupt erst darüber nachdenken könnten, ist ein adaptiver Überlebensvorteil in einer unsicheren und möglicher Weise gefährlichen Umwelt. Das gilt umso mehr für den Menschen der ein soziales Wesen ist und dessen Überlebenschancen von der Kooperation in Gruppen abhängt. Ein Umstand der letztlich verantwortlich dafür ist, dass wir Gründe, Absichten, Bewusstsein, Pläne, Geist und Geister kurzum Sinn überall ‚sehen‘ und entdecken wollen.
Machen wir zur Bestätigung ein kleines Experiment mit Ihnen:
»ieS önnken desei Wtröer vtlolmotisaucah eitfnefrzn.«
Geschrieben ist das falsch, aber Sie können lesen: »Sie können diese Wörter vollautomatisch entziffern.« Das ist insofern erstaunlich als, dass Sie nicht wissen oder ihnen nicht bewusst ist, wie Sie oder ihr Gehirn das machen. Es scheint so, und wie wir mittlerweile entsprechend dem in Fachzeitschriften und auf kontrollierter Beobachtung und Experimenten dokumentierten Stand der neurobiologischen Forschung mit hoher Wahrscheinlichkeit wissen können, ist es so, dass das Gehirn permanent Prognosen über zukünftige Ereignisse anstellt. Und zwar schnell und automatisch. Das Gehirn prognostiziert in der Sprachverabeitung ähnlich wie ein LLM, ohne dass wir uns dieser zentralen Funktion unseres Gehirns bewusst werden oder diese beeinflussen können, auch über den Kontext von Zeichen, Worten und Sätzen. Ansonsten könnten wir nicht so schnell lesen, schreiben und sprechen oder Fehler überlesen und automatisch korrigieren.
Dass Kinder besser generalisieren als LLMs ist eine altbekannte Tatsache, für gewöhnlich braucht es nur ein oder wenige Beispiele für einen Hund und ein Kind so gut wie alles was Hundähnlich ist als solches erkennen. Man stelle sich das einmal als Aufgabe für einen Programmiereer vor, der würde Anfangen logisch zu denken und etwa Schreiben, ein Hund hat vier Beine usw. usf.. der erste Hund der durch eine Unfall ein Bein verloren hatte oder dem ein Ohr abgebissen wurde, würde das Konzept zum scheitern bringen. Turing, der Student Wittgensteins schrieb später in seinem Artikel in Mind, das diese am besten so funktionieren müssten wie Kinder, als sich selbst entwickelnde und selbstlernde Algorithmen.
Das nicht-triviale Verständnis von Wittgenstein von geisteswissenschaftlich gebildeten Lesern ist zu bedauern, die Idee von performativen Sprechakten und andere Verrätselungen des Offensichtlichen, es ist kein Geist in der Maschine und auch nicht im Menschen: Bereits 1949 postulierte der kanadische Neuropsychologe Donald Hebb in seinem berühmten Lehrbuch „The Organization of Behavior – A Neuropsychological Theory“ basierend auf den damaligen Erkenntnissen der Hirnforschung. die auch Wittgenstein bekannt waren: Beim assoziativen Lernen (d.h. der dauerhaften Verbindung zweier Reize), müssen sich die Kontakte zwischen den Nervenzellen verstärken (heute kennen wir dies als Mechanismus der synaptischen Plastizität und als Grundprinzip maschinellen Lernens auf der Grundlage neurale Netze bzw. des Brain-Style Computings). Er vermutete damals auch, dass mentale Prozesse wie Wahrnehmung, Denken, Planen oder Erinnern, also das was man mit einiger Berechtigung Bewusstsein nennen könnte, die koordinierte Aktivierung ganzer Gruppen von Nervenzellen („Assemblies“) beinhalten. Die einzelnen Neuronen sind jedoch immer nur für winzige Bruchteile einer Sekunde aktiv. Um die neuronalen Aktivitätsmuster im Gehirn über einen längeren Zeitraum aufrechtzuerhalten – beispielsweise für die Dauer eines Gedankens oder einer Handlung – sind daher Schleifen innerhalb der neuronalen Netzwerke erforderlich, in denen die Aktivität zirkulieren kann. Dies ermöglicht es, dass mentale Prozesse im Gehirn als „autonome zentrale Prozesse“ unabhängig von äußeren Reizen ablaufen: die Grundlage von Kognition und Bewusstsein bei Menschen und Tieren mit hinreichend komplexen Nervensystemen. Ich stimme zu, gegenwärtig können wir das, was die „wet-ware“ des Gehirns hier funktionell leistet, digital nicht in der Form lernender Maschinen nachbauen. Ich sehe aber keinen Grund warum das nicht möglich sein sollte. Die Diskussion um Empfindungen, gefühlte Gefühle, Qualia, anlog zu Chalmers und andere Einwände von Geistergläubigen sind eher irreführend. Wittgenstein gehörte nicht mehr zu diesen.