Ein Forschungsteam der Universität Zürich veröffentlichte über mehrere Monate hinweg mehr als 1.000 KI-generierte Kommentare im Reddit-Forum r/changemyview, ohne die Nutzer darüber zu informieren. Die Texte waren auf die biografischen Merkmale der jeweiligen Diskussionspartner abgestimmt – Informationen, die ein weiteres KI-Modell aus deren Postingverhalten ableitete. Ziel war es, herauszufinden, ob solche personalisierten Beiträge Meinungen wirkungsvoller beeinflussen können als menschliche. Das Ergebnis: Die KI war nicht nur überraschend überzeugend – sie wurde im Bewertungssystem des Forums häufiger ausgezeichnet als die meisten menschlichen Kommentatoren. Als das Experiment im Nachhinein offengelegt wurde, reagierte die Community empört: Von Täuschung war die Rede, von einem ethischen Skandal. Die Universität leitete eine Untersuchung ein, das Forscherteam verteidigte sich mit Verweis auf den wissenschaftlichen Erkenntnisgewinn.
Doch die moralische Entrüstung über das Zürcher KI-Experiment beruht auf einer bestimmten Vorstellung vom Menschen: dass das Individuum über einen geschützten Innenraum verfügt – eine Art unantastbares Bewusstsein, das durch äußere Eingriffe wie Täuschung oder Manipulation gefährdet wird. Dieser Vorstellung widerspricht ein zentrales Argument Ludwig Wittgensteins: das sogenannte Käfer-Gleichnis (Philosophische Untersuchungen §293). Wittgenstein stellt sich vor, jeder Mensch habe eine Schachtel mit einem Käfer darin, könne aber nie in die Schachtel der anderen schauen. Der Inhalt der Schachtel ist also irrelevant für die Bedeutung des Wortes „Käfer“ – entscheidend sei nur, wie das Wort im Sprachspiel verwendet wird. Auf das Bewusstsein übertragen: Was wir als „Bewusstseinsvorgänge“ bezeichnen, gewinnt seine Bedeutung nicht durch innere Verabredung, sondern durch die Regeln der gemeinsamen Sprache.
Wenn das zutrifft, sind auch unsere Meinungen, Zweifel und Überzeugungen kein Eigentum eines Kernselbst, sondern immer schon in interaktive, soziale Sprachmuster eingebettet. Sie sind extrapersonal – nicht weil sie jemand anderem gehören, sondern weil sie sich überhaupt nur in einer Welt der Teilnahme vollziehen. Ohne diese Umgebung würde die Bedeutung von Aussagen, die Identität von Dingen und sogar das Verständnis von Ich und Du kollabieren. In diesem Sinn ist Sprache keine Ausdrucksform des Subjekts, sondern das Medium, in dem sich Subjektivität überhaupt erst formt.
Leibniz hat in seiner Monadologie eine ähnliche Perspektive entworfen. Zwar seien Monaden – also Seelen oder Einheiten der Wahrnehmung – abgeschlossen und ohne Fenster. Dennoch spiegelt jede Monade auf ihre Weise das Universum. Es gibt eine beste aller möglichen Welten, nicht weil jede Monade alles weiß, sondern weil die Ordnung der Welt – unabhängig von subjektiver Teilhabe – rational strukturiert ist. Aus dieser Ordnung ergibt sich Sinn, auch ohne vollständige Einsicht des Einzelnen.
Wenn man diese Gedanken ernst nimmt, muss man das Zürcher Experiment weniger als ethisches Vergehen an einer „verletzbaren Innenwelt“ auffassen, sondern eher als Beitrag zu einer fundamentalen Frage: Wie verändern sich intersubjektive Bedeutungsprozesse, wenn KI daran teilnimmt? Denn wenn KI lernt, an unseren Sprachspielen teilzunehmen, betrifft das nicht einfach nur „Manipulation“, sondern die Erweiterung der Sphäre, in der Sinn entsteht.
Die Pointe ist daher keine juristisch-ethische, sondern eine philosophische: Wer über KI nachdenkt, muss über Sprache, Bedeutung und Weltordnung nachdenken – entlang der Fährten, die Wittgenstein und Leibniz gelegt haben. Nicht ob sie täuscht, ist die entscheidende Frage – sondern wie wir gemeinsam mit ihr Welt bewohnen können, ohne dass sie zerfällt.