Science-Fiction – 0004

25 Jun, 2026

Es ist zu warm heute. Die Wetterapp sagt die Temperatur liegt 13ºC über dem Durchschnitt für 15. Julis. Muss wegen des Wetters morgen nicht auf Arbeit, aber die Uni fällt nicht aus. Das Seminar wurde ins Erdgeschoss verlegt, ich befürchte wir werden trotzdem gekocht.

Ich habe noch ein paar Gedanken zum Thema KI, ich habe nämlich gestern den Fehler gemacht, einen Substack-Post (und da fängt ja das Elend schon an) mit dem Titel "My AI Opinions" von Scott Alexander zu lesen. Der Text gehört zu einem Genre, dass man vielleicht als AI-Boosterism bezeichnen könnte, es geht vor allem um die Frage, wann AGI, also artificial general intelligence "kommt". "Kommen" ist vielleicht gar kein falscher Ausdruck, denn SA schreibt über KI wie über eine Person. Das kann man natürlich machen, es ist ja durchaus nachvollziehbar, wie Menschen auf die Idee kommen, dass es einen Geist in der Maschine gibt. Aber als Programmierer (oder jedenfalls Person, die sich Räumen aufhält, die Programmierer-adjacent sind) kann man halt auch wissen, dass LLMs und neuronale Netzwerke statistische Modelle sind. Oder man weiß es und hält auch das Gehirn, dass dann mit (s)einem Bewusstsein gleichgesetzt wird, für ein statistisches Modell, dann können Maschinen vielleicht auch sowas wie Personen sein? Aber darum geht es mir gar nicht.

Seltsam kommt mir da eher vor, dass Scott Alexander und jedenfalls ein Teil seiner Leserschaft (hier kann man das generische Maskulinum, ja ausnahmsweise völlig ohne Bedenken verwenden) zu glauben scheinen, dass AGI und damit die sogenannte Singularität kurz bevor stehen.

Was AGI ist, weiß ich nicht genau, aber damit unterscheidet mich nichts von denen, die über AGI sprechen. Eine sehr intelligente KI, vielleicht, wobei natürlich auch der Begriff der Intelligenz völlig ungeklärt bleibt. Wahrscheinlich muss der ungeklärt bleiben, weil er sonst im Marketing nicht funktioniert (SA definiert AGI als "AI intelligent enough to do 90% of knowledge work jobs").

Ich würde mit Ashby sagen, dass Intelligenz die Fähigkeit zur angemessenen Selektion ist (das wäre ja durchaus mit der "Definition" von SA kompatibel). Was angemessen ist, entscheidet ein Beobachter. Intelligenz ist dann aber keine Eigenschaft mehr, die jemandem oder etwas zukommt, sondern ein Verhältnis zur Welt. Also: KI erscheint uns als intelligent (der Geist in der Maschine usw.), wenn sie angemessen selegiert.

Es ist deswegen gar nicht seltsam, dass Programmierer usw., die LLMs usw. für Dinge einsetzen, für die sie sehr gut geeignet sind (programmieren zum Beispiel), die Technologie für extrem Fortgeschritten halten, während andere, die eben andere Bedürfnisse haben und andere Selektionen bräuchten, das Gerede von AGI für Überzogen halten.

Dazu kommt natürlich, dass LLMs eben zuerst mal die Beziehung von Mensch und Maschine verändern, was die Personen die mit Maschinen arbeiten (offensichtlich) besonders betrifft. Klar revolutioniert es den Job der Programmiererin, wenn ich mit dem Computer in natürlicher Sprache sprechen kann.

Damit ist natürlich nicht gesagt, dass künstliche Kommunikation (das ist der Gegenbegriff zu KI von Elena Esposito) keinen Einfluss auf zwischenmenschliche Beziehungen hat (hat sie ja), aber mit Maschinen zu kommunizieren, um Programme zu schreiben ist schon etwas anderes, als der Einfluss von Maschinen auf Kommunikation überhaupt.

Mein Vorwurf gegen diese Kohorte von Programmieren und Silicon-Valley-KI-Fans wäre jedenfalls der der Projektion: SA macht den Fehler, von sich auf alle anderen zu schließen. Nur weil KI in einem Bereich extrem nützlich ist, heißt das nicht, dass sie es auch in allen anderen Bereichen ist.

Viele Genre – das schließt auch an den Post von Gestern an – beruhen eben auf der Selektivität menschlicher Bewusstseine und zwischenmenschlicher Kommunikation. Ein Aufsatz über ein philosophisches Thema kann zum Beispiel nicht alles enthalten, seine Autorin muss sich Gedanken darüber machen, was sie in ihn aufnehmen will. Und nur weil sie sich diese Gedanken macht und nur weil sie diese Entscheidungen trifft, kann der Text am Ende ihr zugeschrieben werden.

Eigentlich wollte ich nur sagen, dass ich nicht glaube, dass es eine 25%ige Chance gibt, dass nächstes Jahr AGI eintritt (wie gesagt – was auch immer das bedeuten soll), und auch nicht, dass es eine 50%ige Chance gibt, dass das 2034 eintritt. Noch zur Singularität, ganz kurz; und dann wollte ich noch einen allgemeineren Punkt machen.

Die Idee der technologischen Singularität kommt von Ray Kurzweil und seinem Buch "The Singularity Is Near: When Humans Transcend Biology", das scheint so eine Art Geschichtsphilosophie zu sein, an deren Ende das Eins-werden von menschlicher und maschineller Intelligenz steht. Es geht um das sogenannte law of accelerating returns (eine Verallgemeinerung von Moore's law, also der Idee, dass sich die Anzahl von Transistoren auf einem Chip alle zwei Jahre verdoppelt) und die Idee eines exponentiellen Wachstums – wovon genau, kann ich nicht sagen. Von Wissen vielleicht?

Manchmal wird die Singularität auch beschrieben als der Moment, an dem es Menschen unmöglich wird, mit dem technologischen Fortschritt mitzuhalten (was auch immer dieses mithalten genau beinhaltet) oder als Problem jedes Moments, den nächsten Moment nicht vorhersagen zu können.

Dann würde ich aber sagen, dass die Singularität schon lange eingetreten ist, kurz nach der Erfindung der Guttenberg-Presse nämlich. In dem Moment, in dem mehr Bücher gedruckt werden, als ein Mensch lesen kann – das wird nicht lang gedauert haben – ist ein "mithalten" unmöglich geworden. Und dann entsteht ja auch das Konzept einer offenen Zukunft, das eigene Unwissen (…) wird plötzlich bewusst. Ironisch ist das natürlich insofern, als dass jemand wie SA nicht wirklich an die Offenheit der Zukunft zu glauben scheint. Das kommen der AGI ist statistisch (immerhin) gesichert.

Der ganze Text erscheint mir jedenfalls als gutes Beispiel für das, was Teixeira-Pinto mit Evelyn Fox Keller als Problem der Differenz von reason and sanity beschreibt. Die Argumente von SA und Konsorten suffer not from a lack of logic but from unreality.¹

Das ist ja im gesamten Genre dieser Less-Wrong-Texte (schade dass mir das jetzt erst einfällt) ein Problem. Nicht alles was logisch ist, ist realistisch. Vielleicht muss man diese Texte deswegen einfach als das lesen, was sie sind: Science-Fiction.

#wordvomit