jpasewalck.org

Tag: Deutsch

  • Gedanken zur Unausweichlichkeit von KI

    Es war letzte Woche; ich redete mit einem Lehrenden an der Uni; irgendetwas zwischen Austausch und Smalltalk. Das Thema von der KI kommt auf, konkret ging es um LLMs bzw. generative KI. Ich frage ihn, eher beiläufig, ob er „die KI“ eher als positive oder negative Entwicklung sieht. Wohl wissend, dass dies eine offene Frage ist – aber seine Antwort interessiert mich. Wie er mir dann aber antwortet, überrascht mich etwas. Er hinterfragt meine Frage indirekt, er macht den Punkt, dass „die KI“ ja so oder so kommen würde, es also keinen Sinn ergeben würde, diese Entwicklung zu bewerten. Wir müssten halt einen Umgang finden, sagt er. Er schiebt zwar dann noch eine tatsächliche Antwort auf meine Frage hinterher: dass es ambivalent sei. Er hebt positiv hervor, dass „die KI“ ihm viel erleichtern würde; und gleichzeitig sagt er auch, dass er um seinen Job fürchte. Aber bei mir bleibt vor allem sein erster Kommentar im Kopf. Ich fühle mich ein bisschen bloßgestellt, als wäre meine Frage nicht gut gestellt bzw. als wäre es die falsche Frage, als würde sie eine Prämisse, jene der Unaufhaltsamkeit von sogenannter KI, verkennen. Ein paar Stunden nach dem Gespräch denke ich noch über seine Antwort nach. Ich merke, ich bin der Auffassung, dass meine Frage genau die richtige ist und ich die Ablehnung der Frage nicht richtig finden kann. Ich fange an, diesen Text zu schreiben.

    Jetzt muss ich an dieser Stelle fairerweise sagen, dass das ein kurzes Gespräch war und ich nicht wirklich weiß, was der Lehrende wirklich denkt. Dennoch denke ich, dass diese Situation eine größere und weitverbreitete Einstellung widerspiegelt, nämlich die Einstellung, dass die Weiterentwicklung und Weiterverbreitung der sogenannten KI unaufhaltsam sei. Ich nenne das im Weiteren den KI-Vormarsch-Standpunkt. Dieser umfasst sowohl die technische Verbesserung der sogenannten KI, sowie die Weiterentwicklung, und die Integration der sogenannten KI in immer mehr Lebensbereiche, also die Weiterverbreitung.

    Dass der Begriff KI eigentlich immer etwas am­bi­gu­os ist, gehört meiner Meinung nach dazu, was diesen Standpunkt ausmacht. Die Ambiguität ist neben einer Euphorisierung und einer Anthropomorphisierung Teil einer oft angebrachten und validen Kritik an dem Begriff „KI“. Ich denke, die Anthropomorphisierung und Euphorisierung sind in diesem Fall jedoch nicht so relevant. Also zur Ambiguität: Diese bedeutet, dass es eigentlich gar nicht so klar ist, was eigentlich eine oder die KI ist. Und das passt gut, denn der KI-Vormarsch-Standpunkt sagt nicht voraus, dass eine bestimmte Form der KI, also z. B. dass LLMs diese KI sind und dass exakt diese LLMs unaufhaltsam sind und uns allen die Jobs wegnehmen werden. Es wird keine bestimmte Zukunft vorhergesagt, es wird eine Richtung vorhergesagt.

    Ich denke, viele würden den KI-Vormarsch-Standpunkt als eine berechtigte und zutreffende Prognose bezeichnen und ihn damit verteidigen, dass die aktuellen Entwicklungen und bestehenden Machtverhältnisse dafür sprechen würden. Und es stimmt, die Ausgaben im Sinne von Geld und weiteren Ressourcen in diesem Bereich sind rekordhaft – komplett absurd eigentlich, wie hoch die wirklich sind. Und auch die technischen Fähigkeiten und der breite Einsatz von KI sind nicht von der Hand zu weisen. Ob es der volle Rewrite von Bun in Rust durch eine KI von Anthropic¹ ist oder dass OpenAI vor wenigen Wochen die Lösung der Navier-Stokes-Gleichungen für sich reklamiert hat². In beiden Fällen gibt es berechtigte Kritik und Einwände, aber es ist dennoch nicht von der Hand zu weisen, dass die Entwicklungen beeindruckend sind. Es ist immer leicht, die Dinge hervorzuheben, die noch nicht perfekt sind.

    Und trotz dieser überzeugenden Argumente habe ich da so einen Verdacht. Und zwar, dass diese Argumente oft, keineswegs immer, aber oft, eigentlich eher eine Rationalisierung von einem Glauben sind statt eine die tatsächlichen Argumente eines Wissens oder einer Vorhersage die unfehlbar sei. Stattdessen, so mein Verdacht, ist es eben ein Glaube. Und zwar der Glauben an ein Narrativ. An das Narrativ. Das Narrativ des KI-Vormarsch-Standpunkts. Wenn ich Nachrichten höre, höre ich kaum die Frage, ob die KI auszuhalten ist oder nicht. Sowohl im praktischen als auch normativen Sinne. Stattdessen höre ich Fragen, danach, was es bedeutet, dass die KI kommt, die Frage, wie schnell die KI kommt, oder die Frage des Umgangs damit. Es ist einfach als Prämisse gesetzt, dass die KI kommt. Ein Glauben der als Wissen verpackt wird, aber dann eigentlich nichts anders ist als ein Glauben. Keine Vorhersage. Denn eine Vorhersage könnte falsch liegen, aber das wird nicht mal als Option angenommen.

    Und besonders im Kontext von menschlichem Handeln, ein Kontext, in dem der KI-Vormarsch-Standpunkt explizit verankert ist. Beim Klimawandel so in etwa, sagen die Klimaforscher nicht voraus, dass wir die 3-Grad-Grenze überschreiten werden, sondern sie sagen es voraus im Kontext von verschiedenen Handlungsmöglichkeiten, sie benennen explizit unsere Handlungsspielräume und die Folgen dieser, einschließlich der Unsicherheitsfaktoren dieser Prognosen. Natürlich gibt es dann noch diese Kipppunkte beim Klimawandel, aber das sind dann Punkte, nach denen wir Menschen explizit keine Handhabung mehr haben und wir den physikalischen Prozessen unserer Erde dann voll und ganz ausgeliefert sind. Bei dem KI-Vormarsch-Standpunkt bzw. dessen Vorhersage geht es einfach durch die Natur der Art vom Vorhersage um menschliche Entscheidungen und nicht um konkrete „abgeschlossene“ Prozesse. Die Entwicklung von Prozessen, die Menschen, besonders viele Menschen, inkludieren, sind notorisch schlecht vorherzusagen. Eine Vorhersage in so einer Sache, seien die Argumente noch so stark, wie einen Glaubenssatz zu behandeln, befremdet mich deutlich.

    Oft kommt es mir so vor, als würden wir die noch kommende Entwicklung von KI so behandeln, als wäre sie schon passiert. Also, als wäre sie in der Vergangenheit. Dinge, die schon passiert sind, lassen sich bekanntlich nicht mehr ändern. Und klar, wenn man diese noch kommenden Entwicklungen als Prämisse betrachtet, die nicht anders kommen kann, als Prämisse auf der andere Dinge bloß aufbauen können, so passt das gut; es gibt dann eigentlich keinen Unterschied zur echten Vergangenheit.

    Die ganzen bereits sehr konkreten und messbaren Folgen von der Entwicklung von KI, die schon sind, sowie jene, die noch kommen werden, werden kaum benannt; Datenzweckentfremdung, Zerstörung von Ökosystemen, Ressourcenraub und -verbrauch; mal ganz abgesehen von den tollen „tollen Anwendungen“ von KI: Krieg, Massenüberwachung oder AI Slop um ein paar Beispiele zu nennen. Und auch noch komplett unbekannte Gefahren, wie jene durch das AI Alignment Problem, werden nur angegangen unter der Prämisse und mit der Einstellung, dass die KI Entwicklung und die Geschwindigkeit der KI Entwicklung nicht aufzuhalten sei. Als wären all diese Probleme und Gefahren nicht die Konsequenzen von aktuellen Entscheidungen; Entscheidungen die jetzt gerade relevant sein sollten; Entscheidungen die jetzt gerade und in der Zukunft getroffen werden. Als wären sie eben schon passiert.

    Aber es ergibt Sinn, dass dem so ist; denn wenn man all diese Dinge benennen würde und korrekterweise den Zusammenhang herstellt, so würde man erkennen müssen, dass die „KI“ vielleicht eben doch noch nicht passiert ist; wir ihren Vormarsch, wie er aktuell vorangetrieben wird, kritisieren können und müssen. Und dass wir ihn auch noch stoppen können. Und ganz vielleicht sogar stoppen sollten.

    P.S. Ich schreibe diese Zeilen, während auf meinem Zu-Lesen-Stapel „Hoffnung in der Dunkelheit“ von Rebecca Solnit liegt. Obwohl ich das Buch noch nicht gelesen habe, muss ich Solnit hier erwähnen. Ich habe ihren Exkurs zur „Hoffnung in der Dunkelheit“ in „Wenn Männer mir die Welt erklären“ vor kurzem wahrgenommen, sie hat mich zusätzlich bestätigt und mir nochmal neue Worte gegeben, so auf die Zukunft und Vergangenheit zu blicken, wie ich es hier tue.

    1: Sumner, J. (2026, 8. Juli). Rewriting Bun in rust. Bun. https://bun.com/blog/bun-in-rust

    2: Howlett, J. (2026, 22. September). Did OpenAI solve the wrong Navier-Stokes problem? Scientific American. https://www.scientificamerican.com/article/did-openai-solve-the-wrong-navier-stokes-problem/

  • Das Dreikörperproblem

    Das Dreikörperproblem

    Es war irgendein Tag, ich weiß nicht mehr welcher, es war schon recht spät – und ich war müde. Aber, wie so oft, hatte ich auch an diesem Abend so eine – nennen wir es – Denkphase. Es beschäftigte mich die Frage, ob ich mein Leben als chaotisch oder geordnet betrachten würde.

    Ich wägte ab: Ich fand schon, dass ich ein eher geordnetes Leben hatte. Mir war es wichtig zu wissen, was am nächsten Tag passieren würde, und das klappte auch meistens. Und doch, gleichzeitig, wusste ich eigentlich nicht, was am nächsten Tag wirklich passieren wird. Am Ende ist es so, dass egal, wie viel Mühe ich mir gebe, dass irgendeine Kleinigkeit nach Plan verläuft, weiß ich niemals, ob das wirklich so klappt. Am Ende kann dann immer etwas Unerwartetes dazwischen kommen. Und besonders, desto kleinteiliger ich etwas plane, desto wahrscheinlicher wird eine Kleinigkeit irgendeinen dieser Aspekte verändern.

    Aber jetzt deswegen mein Leben als chaotisch zu bezeichnen, wäre auch falsch. Ganz so schlimm ist es eben nicht. Trotz aller Möglichkeit, dass etwas Unerwartetes passiert und mein Tag oder gar mein Leben im Chaos endet, ist diese Möglichkeit nicht immer so signifikant bzw. die Auswirkungen des Unerwarteten sind nicht so gravierend. Diese Möglichkeit des Chaos bleibt eher als – mal größere und mal kleinere – Unsicherheit in meinen Plänen.

    Also ist mein Leben eine Art Mischung aus Chaos und Ordnung? – Eigentlich doch nicht! Ich meine, eine Mischung würde ja bedeuten, dass mein Leben in einigen Bereichen planbar ist und in anderen Bereichen nicht oder, dass es mal planbar ist und mal nicht. Jedenfalls ist das meine Assoziation. Das ist aber nicht, wie es ist. Es ist vielmehr so, dass mein Leben vollständig planbar ist und gleichzeitig vollständig chaotisch. Da sich für alles ein Plan machen lässt, aber dieser Plan, sei er auch noch so aufwendig, durch etwas Unerwartetes durchkreuzt werden kann bzw. es eigentlich auch immer wird.

    Eigentlich muss ich hier auch gestehen, passt das Nomen des „Unerwarteten“ auch nicht so gut. Es suggeriert, dass wir entweder richtig oder falsch liegen, abhängig davon, ob wir ein „ausschlaggebendes Detail“ berücksichtigt haben oder nicht. Ich denke, es ist aber eher so zu begreifen, dass unser Plan – bzw. die darunterliegende Vorhersage – eine Art Approximation des wirklichen Verlaufs ist und diesen wirklichen Verlauf mit einer bestimmten Genauigkeit beschreibt.

    Irgendwie musste ich damals dann an das Dreikörperproblem denken. Dazu also ein kurzer Exkurs an dieser Stelle: Mit Physik ist es möglich das Verhalten von Körpern zueinander unter der Schwerkraft mit den Newtonsches Gravitationsgesetzen vorherzusagen. Beim Dreikörperproblem geht es dabei darum, dass wir vorhersagen, wie sich drei Körper gemäß dieser Gesetze zueinander verhalten werden; bei bekannten Massen und Anfangsbedingungen (Position und Geschwindigkeit). Letztendlich ist es ein mathematisches Problem. Bevor wir uns aber damit befassen, gehen wir eben noch einen Schritt bzw. Körper zurück; zum Zweikörperproblem. Dabei gehts ums Gleiche, nur eben mit zwei Körpern. Bei diesem Problem, mit nur zwei Körpern, ist es möglich eine allgemeine analytische Lösung zu finden – das bedeutet, mit unendlicher Genauigkeit die Verhalten der beiden Körper zueinander kennen zu können. Praktisch. Okay, zurück zu den drei Körpern: Beim Dreikörperproblem hingegen geht das im Allgemeinen nicht mit der analytischen Lösung – Es gibt keine allgemeine analytische Lösung. Wir können das Problem nur numerisch lösen, also eine Lösung nur approximieren – zu einer gewissen Genauigkeit das Verhalten der Körper vorhersagen.

    Wenn wir also im Dreikörperproblem eine Vorhersage machen und das mit einer guten Genauigkeit, können wir, für einen begrenzten Zeitraum relativ gut abschätzen, wie sich die drei Körper zueinander verhalten werden. Aber eben nicht unendlich genau und desto weiter wir in die Zukunft gehen, desto ungenauer wird unsere Vorhersage. Wenn unser Ziel hier z. B. ist einen Zusammenstoß der Körper vorherzusagen: Dann kann es sein, dass laut unserer Vorhersage alles gut läuft und keiner der Körper, in den anderen hinein stößt, es in der Praxis dann aber trotzdem zu so einem Zusammenstoß kommt – Genau das Gleiche gilt dann auch umgekehrt. Ich lasse die mathematischen Hintergründe an dieser Stelle etwas außen vor.

    Das Dreikörperproblem ist also eigentlich genau so, wie ich mein bzw. das Leben allgemein begreife: Wir können für alles Pläne machen bzw. Vorhersagen treffen. Aber am Ende ist das, wie beim Dreikörperproblem, nur eine Approximation dessen, was dann wirklich passiert.

    Und ich muss zugeben, ich finde es schön, das Leben so zu begreifen. Es ist irgendwie entlastend, sich dieser Grenzen der eigenen Fähigkeit, irgendetwas zu planen oder vorherzusagen, bewusst zu sein. Und das, ohne die Bedeutung der eigenen Entscheidungen zu negieren. Denn diese bleiben relevant. Es ist nur so, dass wir akzeptieren können, dass wir eben nicht genau sagen können, wo sie, also die Entscheidungen, uns hinführen. Es bleibt für uns dann doch eine Überraschung.

    Im Folgenden ist eine Grafik aufgeführt, einer numerischen Lösung für ein Dreikörperproblem. Diese habe ich im Nachgang meiner Gedanken mit Python erstellt und hängt nun im Postkartenformat in meinem Flur.

    Eine numerische Lösung für ein Dreikörperproblem – Jona Pasewalck CC BY-NC