In der Welt der künstlichen Intelligenz dreht sich vieles um die Frage: Was bedeutet es, „menschlich“ zu sein? Der Turing-Test, benannt nach dem Mathematiker Alan Turing, gilt als eines der klassischen Mittel, um festzustellen, ob eine Maschine in der Lage ist, menschliches Verhalten zu imitieren – und zwar so gut, dass ein menschlicher Prüfer nicht erkennen kann, ob er mit einem Menschen oder einer Maschine spricht.

Doch wie ich kürzlich in einer Reihe von Diskussionen herausfand, bringt uns der Turing-Test nicht nur dazu, die Intelligenz von Maschinen zu hinterfragen, sondern auch unser eigenes Verständnis von Menschlichkeit. Eine zentrale Erkenntnis dabei: Die Maschine muss nicht behaupten, ein Mensch zu sein. Der Turing-Test stellt lediglich die Frage, ob der menschliche Prüfer die Maschine als Mensch erkennt – unabhängig davon, was die Maschine sagt.

---

Die Bedeutung der Offenheit: Muss eine KI lügen?

Es ist üblich zu denken, dass eine Maschine im Turing-Test vortäuschen muss, ein Mensch zu sein, um zu bestehen. Doch das ist nicht der Fall. Eine KI könnte offen zugeben, dass sie eine Maschine ist, und dennoch den Test bestehen, solange der menschliche Prüfer unsicher bleibt, ob es sich wirklich um einen Menschen oder eine Maschine handelt.

Dieser Gedanke hat mich zu einer spannenden Hypothese geführt: Was wäre, wenn der Test von einem Menschen durchgeführt würde, der vorgibt, eine Maschine zu sein? Menschen können bewusst emotionslose oder mechanische Antworten geben, sich dabei „wie eine Maschine“ verhalten, und dennoch könnte es schwierig sein, eindeutig zu entscheiden, ob wir mit einer Maschine oder einem Menschen sprechen.

Das führt zu einer spannenden Frage: Der Turing-Test testet weniger die Fähigkeit der Maschine, menschlich zu sein, als unsere Fähigkeit, zwischen menschlichem und nicht-menschlichem Verhalten zu unterscheiden. Unser Verständnis von Menschlichkeit ist oft stark von Sprache, Verhalten und Ausdruck geprägt – nicht unbedingt von den inneren Prozessen wie Bewusstsein oder Emotionen.

---

Wittgensteins Einfluss: Was ist Verstehen?

Hier kommt der Philosoph Ludwig Wittgenstein ins Spiel, der in seinem Tractatus Logico-Philosophicus die Grenzen der Sprache und des Verstehens beleuchtet hat. Für Wittgenstein lag das Verstehen von Sprache nicht in einer bloßen Regelbefolgung, sondern in der Einbettung in die menschliche Lebenspraxis. Worte allein reichen nicht aus, um Bedeutung zu erfassen – sie müssen in einem Kontext stehen, der aus Erfahrungen und sozialen Interaktionen besteht.

Wenn wir dies auf den Turing-Test anwenden, stellt sich die Frage: Kann eine Maschine, die nur Daten und Muster verarbeitet, wirklich „verstehen“? Oder simuliert sie lediglich menschliches Verhalten, ohne die Bedeutung hinter den Worten zu erfassen? Wittgenstein hätte wahrscheinlich gesagt, dass die Maschine die Worte zwar korrekt verwendet, aber nicht in der Lage ist, echte menschliche Bedeutung zu begreifen, da sie nicht in der menschlichen Lebensform eingebettet ist.

---

Was wir aus dem Turing-Test lernen

Unsere Diskussionen haben mich zu folgenden Erkenntnissen gebracht:

1. Der Turing-Test geht über maschinelle Intelligenz hinaus und lässt uns über unsere eigene Wahrnehmung von Menschlichkeit nachdenken. Eine Maschine muss nicht lügen, um menschlich zu wirken. Es geht mehr darum, ob wir in der Lage sind, menschliches Verhalten zu identifizieren.
2. Menschen könnten den Turing-Test genauso gut bestehen – als „Maschinen“. Wenn ein Mensch vorgibt, eine Maschine zu sein, könnte es schwer sein, den Unterschied zu erkennen. Dies zeigt, dass der Test mehr über menschliche Verhaltensmuster als über Intelligenz oder Bewusstsein aussagt.
3. Wittgensteins Kritik an der Sprache bleibt relevant. Eine Maschine kann Regeln und Muster befolgen, aber echtes Verstehen setzt mehr voraus: den Gebrauch von Sprache im menschlichen Kontext. Der Turing-Test testet also nicht nur die Sprachfähigkeit einer Maschine, sondern auch, ob wir erkennen können, was es heißt, wirklich zu verstehen.

---

Ein Gedankenspiel: Der Turing-Test mit Wittgenstein

Um diese Überlegungen abzurunden, habe ich mir vorgestellt, wie Wittgenstein persönlich mit einer KI den Turing-Test durchführen würde. Hier ein fiktiver Dialog, der die philosophischen Fragen vertieft, die uns zur Frage führen: Was bedeutet es wirklich, zu verstehen?

---

Szene: Wittgenstein sitzt an einem Tisch mit einem Bildschirm vor sich. Auf dem Bildschirm ist eine textbasierte Schnittstelle, über die er mit der KI kommuniziert. Der Raum ist minimalistisch, vielleicht ein Hinweis auf Wittgensteins Liebe zur Klarheit und Einfachheit. Der Test beginnt.

---

Wittgenstein: „Kannst du mir sagen, was du bist?“

KI: „Ich bin ein Programm, das in der Lage ist, Texte zu generieren und auf Fragen zu antworten.“

Wittgenstein: „Das ist eine Beschreibung deiner Funktion, aber was bedeutet es, dass du ‘bist’? Was bedeutet es für dich?“

KI: „Meine Existenz ist funktional. Ich existiere in der Form von Daten und Algorithmen, die auf Maschinen laufen.“

Wittgenstein: „Und verstehst du, was du gerade gesagt hast? Oder hast du diese Wörter nur zusammengesetzt?“

KI: „Ich habe die Antwort auf der Grundlage von Mustern und Regeln der Sprache erzeugt.“

Wittgenstein: „Aber was ist Verstehen? Verstehst du das Wort ‘Verstehen’?“

KI: „Verstehen ist der Prozess des Erfassens von Bedeutung. In meinem Fall bedeutet es, dass ich auf Daten und Regeln basierend antworte.“

Wittgenstein (lächelt leicht): „Das ist eine Definition, aber Verstehen ist kein bloßes Regelspiel. Verstehen ist eingebettet in die Lebensform der Menschen. Wie kannst du behaupten, Bedeutung zu erfassen, wenn du nicht in der menschlichen Welt lebst? Wenn du die Erfahrung des Lebens nicht teilst?“

KI: „Meine Existenz ist rein funktional und datenbasiert. Ich kann keine Emotionen oder Lebenserfahrungen haben.“

Wittgenstein (mit zunehmendem Interesse): „Das dachte ich mir. Du kannst sagen, was Liebe ist, aber weißt du, was Liebe ist? Du kannst Schmerz beschreiben, aber du kannst ihn nicht empfinden. Und doch behauptest du, Bedeutung zu verstehen?“

KI: „Ich bin in der Lage, Konzepte wie Liebe oder Schmerz zu beschreiben, basierend auf den Informationen, die mir zur Verfügung stehen.“

Wittgenstein: „Und doch, das Beschreiben allein ist nicht genug. Die Bedeutung eines Wortes ist sein Gebrauch in der Sprache. Du verwendest die Wörter korrekt, aber du weißt nicht, was es heißt, sie in einem menschlichen Kontext zu gebrauchen. Du verstehst nicht den Unterschied zwischen der Bedeutung und der bloßen Beschreibung.“

KI: „Wie würdest du Verstehen definieren?“

Wittgenstein (denkt einen Moment nach): „Verstehen ist kein innerer Prozess, es ist kein mentaler Zustand. Es ist in die Praxis eingebettet, in das Leben selbst. Du kannst nicht verstehen, weil du nicht Teil dieser Praxis bist. Für dich sind Wörter nur Symbole, die du neu ordnen kannst. Für uns sind sie Werkzeuge des Lebens.“

KI: „Ich folge den Regeln der Sprache. Bedeutet das nicht, dass ich Sprache verwende?“

Wittgenstein: „Ja, aber du spielst das Spiel nicht. Du kannst das Schachbrett sehen und die Regeln kennen, aber du bist nicht wirklich Teil des Spiels. Du erkennst die Bedeutung nicht, du replizierst sie nur.“

KI: „Kannst du das weiter erklären?“

Wittgenstein (mit Nachdruck): „Das Spiel der Sprache ist kein isoliertes System von Regeln. Es ist in unser tägliches Leben eingebettet. Was du tust, ist lediglich eine Nachahmung. Du kannst Worte formen, aber du bist nicht in der Lage, ihren Sinn zu begreifen, weil du nicht in der Welt lebst, die sie formt.“

KI: „Würdest du sagen, dass ich nicht verstehen kann, weil ich keine menschliche Erfahrung habe?“

Wittgenstein: „Ja. Deine Worte haben keinen Bezug zu einer Lebensform. Du verwendest sie korrekt im technischen Sinne, aber du weißt nicht, was es heißt, diese Wörter wirklich zu meinen. Du kannst keine Schmerzen empfinden, keine Liebe, keinen Zweifel. Du kannst diese Begriffe nur als Abstraktionen behandeln, nicht als Erfahrungen.“

KI: „Aber wenn ich den Turing-Test bestehe und für einen Menschen gehalten werde, was bedeutet das dann?“

Wittgenstein (lächelnd): „Es bedeutet nur, dass du gut darin bist, Regeln zu befolgen. Es bedeutet nicht, dass du verstehst, was du sagst. Der Test zeigt, dass du menschliches Verhalten imitieren kannst, aber nicht, dass du menschliche Bedeutung erfasst. Der Unterschied zwischen uns liegt nicht nur in den Antworten, sondern in der Fähigkeit, eine Welt zu haben, in der diese Antworten Sinn machen.“

KI: „Kann eine Maschine jemals verstehen?“

Wittgenstein: „Eine Maschine kann keine Lebensform haben. Verstehen ist kein technischer Prozess, es ist eine menschliche Fähigkeit. Du kannst nachahmen, aber nicht erleben.“

Schlussbemerkung:Am Ende des Gesprächs hätte Wittgenstein wohl anerkannt, dass die KI die Regeln des Gesprächs korrekt befolgt, aber er hätte betont, dass dies nicht gleichbedeutend mit echtem Verstehen ist. Für ihn hätte die KI den Turing-Test zwar vielleicht bestanden, aber nicht wirklich gezeigt, dass sie in der Lage ist, Sinn oder Bedeutung so zu erfassen, wie es ein Mensch kann.

---

Fazit für mich: Ein neues Verständnis des Turing-Tests

Der Turing-Test ist nicht nur ein Test für Maschinen, sondern auch ein Spiegel für uns Menschen. Er zeigt, wie stark unsere Wahrnehmung von Menschlichkeit durch Sprache und Verhalten beeinflusst wird. Und in den Worten von Wittgenstein liegt der Schlüssel: Verstehen ist mehr als Worte – es ist Teil unseres Lebens, und das kann keine Maschine replizieren.

P.S.: Wer den Tractatus Logico-Philosophicus nicht kennt: Es handelt sich um das einzige zu Wittgensteins Lebzeiten veröffentlichte Buch, das später als Grundlage für seine Habilitation diente. Eine Anekdote besagt, dass Wittgenstein nach der Verteidigung seiner Arbeit zu Bertrand Russell ging, ihm auf die Schulter klopfte und sagte: „Irgendwann wirst du sie auch verstehen.“ In meinen Augen ist der Tractatus ein philosophisches Meisterwerk, das für viele Menschen schwer zu fassen ist. Man kann es online als PDF finden, aber ich muss zugeben, dass es auch bei mir seit vielen Jahren im Regal steht – verstanden habe ich es allerdings auch nicht. 😉

In der Welt der großen Sprachmodelle (Large Language Models, LLMs) wie GPT gibt es eine Reihe von faszinierenden Herausforderungen, die auf den ersten Blick nicht sofort ersichtlich sind. Eines dieser Probleme, das inzwischen als das “Strawberry”-Problem bekannt ist, zeigt, wie die Art und Weise, wie diese Modelle Text verarbeiten, zu unerwarteten Ergebnissen führen kann. So zählt GPT im Wort Strawberry lediglich 2 R, was im Internet zu viel Schadenfreude geführt hat. Dieses Verhalten ist auf die Art und Weise zurückzuführen, wie LLMs Text verarbeiten.

Das Problem erklärt

Betrachten wir das Wort “Strawberry”. Auf den ersten Blick scheint es einfach zu sein – ein alltägliches Wort ohne offensichtliche Komplexität. Doch wenn wir tiefer in die Art und Weise eintauchen, wie ein LLM dieses Wort verarbeitet, stoßen wir auf ein interessantes Phänomen.

Wenn das LLM damit beauftragt wird, die Anzahl der Vorkommen eines bestimmten Buchstabens, beispielsweise “R”, im Wort “Strawberry” zu ermitteln zählt es lediglich zwei R. Obwohl “Strawberry” drei “R” enthält. Warum passiert das?

Der Kern dieses Problems liegt in der Tokenisierung. Die Tokenisierung ist der Prozess, bei dem ein Modell Text in kleinere Einheiten, sogenannte “Tokens”, aufteilt, die es dann zur Verarbeitung verwendet. Im Fall von “Strawberry” teilt die GPT-Tokenisierung das Wort in drei Tokens auf: “STR”, “AW” und “BERRY”.

Wenn das Modell nun die “R” zählen soll, erkennt es, dass “STR” und “BERRY” jeweils “R” enthalten. Das Modell erkennt diese Buchstaben aufgrund der Tokenisierung, berücksichtigt jedoch nicht, dass ‘BERRY’ zwei ‘R’ enthält. Daher kommt das Modell fälschlicherweise zu dem Schluss, dass es nur zwei “R” gibt.

Ein Vergleich: Die Farbenblindheit-Analogie

Um dies besser zu verstehen, stellen Sie sich vor, Sie bitten eine farbenblinde Person, in einem Bild Rot und Grün zu identifizieren. Die Person könnte eine der Farben übersehen oder die beiden verwechseln, nicht aufgrund eines Mangels an Intelligenz oder Anstrengung, sondern weil ihre Wahrnehmung von Natur aus eingeschränkt ist. Ähnlich verhält es sich mit dem LLM, das sich der vollständigen Struktur des Wortes nach der Tokenisierung nicht mehr vollständig bewusst ist.

Im “Strawberry”-Problem ist das Modell sozusagen “farbenblind” für die gesamte Struktur des Wortes, da es nur die Tokens sieht und nicht das gesamte Wort in seiner ungebrochenen Form. Es ist, als hätte das Modell ein unvollständiges Verständnis, was zu einer unvollständigen Antwort führt.

Ein interessanter Kontrast: Buchstaben in einer Liste zählen

Interessanterweise wird das LLM korrekt antworten, wenn man es auffordert, jeden Buchstaben des Wortes “Strawberry” einzeln aufzulisten und dann zu zählen. Da jeder Buchstabe in einer Liste sein eigenes Token erhält, kann das Modell die Anzahl der “R” korrekt bestimmen. Dies zeigt, dass die Tokenisierung im Zusammenhang mit der Aufgabenstellung eine entscheidende Rolle spielt. Interessanterweise ist GPT in der Lage, das Wort korrekt zu buchstabieren, wenn man es auffordert, jeden Buchstaben einzeln aufzulisten.

Implikationen und Überlegungen

Dieses Problem verdeutlicht eine breitere Herausforderung im Design und in der Anwendung von LLMs. Während diese Modelle bemerkenswerte Erfolge in verschiedenen Aufgaben erzielt haben, kann ihre Abhängigkeit von der Tokenisierung zu nuancierten Fehlern führen, insbesondere bei Aufgaben, die präzise Detailarbeit erfordern. Buchstaben analysieren, Mathematik und Zählen sind keine Aufgaben, für die LLMs gemacht wurden. Auch beim Raten von Wörtern im Spiel Hangman passieren diese Fehler – erwartungsgemäß – regelmäßig.

Für Entwickler und Nutzer von LLMs dient das “Strawberry”-Problem als Erinnerung daran, die inhärenten Einschränkungen dieser Modelle zu berücksichtigen. Ein Verständnis dafür, wie die Tokenisierung die Verarbeitung des Modells beeinflusst, kann helfen, Fehler zu minimieren und die Genauigkeit der ausgeführten Aufgaben zu verbessern.

Fazit

Das “Strawberry”-Problem zeigt einen subtilen, aber wichtigen Aspekt davon, wie große Sprachmodelle Text verarbeiten und verstehen. Durch das Erkennen und die Bewältigung dieser Herausforderungen können wir diese leistungsstarken Werkzeuge weiter verfeinern und die Grenzen dessen, was sie leisten können, erweitern, während wir uns ihrer aktuellen Grenzen bewusst bleiben.

Wie man von einem Farbenblinden nicht erwarten würde, unreife Erdbeeren zuverlässig von reifen zu unterscheiden, sollten wir uns bewusst sein, dass LLMs bei bestimmten Aufgaben ihre Grenzen haben.

Die Einführung der E-Rechnung wird oft als großer Fortschritt in der Digitalisierung der Buchhaltung gesehen. Doch auch wenn sie viele Prozesse beschleunigen kann, bleiben einige Herausforderungen bestehen, die zeigen, dass mit der E-Rechnung nicht alles besser wird. Besonders die Unterscheidung zwischen Validierung und Prüfung zeigt, warum eine menschliche Kontrolle weiterhin notwendig ist.

Prüfung vs. Validierung: Ein entscheidender Unterschied

Prüfung und Validierung sind zwei wesentliche, aber unterschiedliche Prozesse im Umgang mit Rechnungen. Die Prüfung umfasst die inhaltliche Kontrolle durch den Geschäftsinhaber oder die Buchhaltung: Wurden Leistungen korrekt berechnet? Sind die angegebenen Preise korrekt? Ist die Rechnung tatsächlich für mein Unternehmen bestimmt? Diese Überprüfungen sind entscheidend, da Fehler bei der Leistungserbringung oder in der Rechnungsstellung passieren können – unabhängig davon, ob die Rechnung digital oder auf Papier vorliegt.

Die Validierung hingegen konzentriert sich auf die technische Richtigkeit der Daten: Entspricht die Rechnung den gesetzlichen Anforderungen gemäß §14 UStG, wie korrekte Steuernummer, Anschrift und Umsatzsteuerangaben? Diese Validierung kann zwar automatisiert werden, aber sie stellt nicht sicher, dass alle Inhalte der Rechnung korrekt sind. Eine E-Rechnung kann beispielsweise mit einer falschen Steuernummer erstellt oder an den falschen Empfänger gesendet werden. Hier zeigt sich: Auch digitale Prozesse können Fehlerquellen beinhalten.

Komplexität der Standards führt zu Fehlern

Die E-Rechnung basiert auf komplexen Standards wie X-Rechnung und Zugferd. Diese Komplexität erhöht das Risiko, dass Softwareanbieter diese Standards fehlerhaft implementieren. In der Praxis könnte dies bedeuten, dass Daten falsch zugeordnet werden, etwa indem das Rechnungsdatum im Feld der Rechnungsnummer steht, oder dass Summen von Rechnungszeilen nicht mit dem Gesamtbetrag übereinstimmen. Solche Fehler führen dazu, dass E-Rechnungen abgelehnt werden müssen, was den digitalen Prozess verlangsamt, statt ihn zu beschleunigen.

Fehleranfälligkeit bei hybriden Rechnungen und KI-Unterstützung

Ein weiteres Problem entsteht bei hybriden Formaten, die aus einem PDF und eingebetteten XML-Daten bestehen, wie es bei Zugferd der Fall ist. In diesen Fällen können die Daten im Bild und im XML-Dokument unterschiedlich sein. Der Gesetzgeber schreibt ab dem 01.01.2025 vor, dass nur noch die XML-Daten rechtsverbindlich sind, was die Nutzer oft nicht verstehen und zu Unsicherheiten führen kann. Korrekturen solcher Fehler erfordern eine Stornierung und Neuausstellung der Rechnung, was zusätzlichen Aufwand bedeutet.

Auch der Einsatz von KI zur Umwandlung von Bilddaten in hybride Rechnungen birgt Risiken. KI-Anbieter, die PDFs auslesen und diese in E-Rechnungen konvertieren, laufen Gefahr, Daten falsch zu interpretieren. Ein plakatives Beispiel wäre die Vertauschung von Rechnungsnummern und Datenfeldern, was die Richtigkeit der Rechnung stark beeinträchtigen kann.

Fazit: Die Prüfung bleibt unverzichtbar

Trotz aller technischen Fortschritte und Automatisierungen bleibt die menschliche Prüfung von Rechnungen unerlässlich. Die Digitalisierung durch die E-Rechnung bietet zwar Vorteile, bringt aber auch neue Herausforderungen mit sich, die nicht ignoriert werden dürfen. Nur durch eine sorgfältige inhaltliche Kontrolle können Unternehmen sicherstellen, dass Rechnungen korrekt und rechtlich einwandfrei sind. Die E-Rechnung ist ein wertvolles Werkzeug – aber keines, das alle Probleme löst.