Unwissen

Palantir als Poligoptikum

Habe diesen Text im letzten Semester für eine Schreibwerkstatt geschrieben. Finde ihn nicht besonders gut oder originell, aber zu schade um ihn verrotten zu lassen.


Dass Peter Thiel Demokratie und Freiheit für unvereinbar hält, ist schon lange bekannt; dass er großer Fan von Herr der Ringe ist und seine Firmen nach Wörtern aus der Sprache der Elben benennt, weitaus weniger. Der Name von Palantir, der bekanntesten Firma Thiels, leitet sich ab von den Palantíri aus der Fantasy-Trilogie *Herr der Ringe *von J.R.R. Tolkien. In einer alten Sprache der Elben bedeutet palantír "weit sehend" – die Palantíri sind Steine, mit denen in die Ferne geschaut werden kann.

Palantir stellt Software zur Analyse großer Datenmengen her. Entstanden aus der Betrugsbekämpfungssoftware von Paypal, einer der ersten Beteiligungen Thiels, wurden die Services von Palantir zunächst von US-amerikanischen Geheimdiensten eingesetzt. Nachdem sich in Folge der Tötung Osama bin Ladens das Gerücht verbreitete, Palantir habe maßgeblich zum Erfolg der Suche beigetragen, wurde die Firma international bekannt. Heute setzen nicht mehr nur Geheimdienste, sondern zum Beispiel auch deutsche Polizeien in Bayern, Hessen und NRW Varianten von Palantirs Softwareplatform Gotham ein, um große Datenmengen auszuwerten. Andere Ausführungen der Software werden an staatliche Verwaltungen, den Gesundheitssektor ebenso wie an privatwirtschaftliche Firmen vertrieben.

Gerade die Aussicht, dass Software von Palantir von Behörden auf Bundesebene angewendet werden könnte, stößt nicht bei allen auf Freude. Ricarda Lang, Bundestagsabgeordnete der Grünen, fühlte sich aufgrund der autoritären Äußerungen Peter Thiels vor kurzem bemüßigt, ein „europäisches Palantir" zu fordern, also eine eigene Softwareentwicklung der EU, um die Software des demokratieskeptischen Thiels zu ersetzen. Andere lehnen den Einsatz ähnlicher Software aus Angst vor Missbrauch und Massenüberwachung grundsätzlich ab.

2024 hält Adrian Lobe, Autor des Buchs Speichern und Strafen – Die Gesellschaft im Datengefängnis einen Vortrag, in dem er eine direkte Verbindung vom Überwachungsmodell des Panoptikums zu Palantir zieht. Immer umfassendere Überwachung nicht nur durch Kameras im öffentlichen Raum, sondern auch durch Smartphones und auf Social Media: der panoptische Blick sei überall.

Das Panoptikum ist das Modell eines idealen Gefängnisses, das der utilitaristische Philosoph Jeremy Bentham 1787 konzipierte. Es sieht eine ringförmige Anordnung von Einzelzellen vor, die offen einsehbar sind. In der Mitte des Rings steht ein Turm, von dem ein Wärter alle Gefangenen beobachten kann. Die Gefangenen können ihrerseits weder andere Häftlinge noch die Wärter sehen. In seiner 1975 veröffentlichen Studie Überwachen und Strafen greift der Philosoph Michel Foucault das Konzept des Panoptikums auf, um die Machtformationen des 19. Jahrhunderts zu beschreiben. Foucault stellt fest, dass das Panoptikum keine durchgängige Überwachung braucht: Der Kontrolleffekt stellt sich auch ein, wenn der Wachturm unbesetzt bleibt. Schließlich stellt sich bei den Gefangenen durch die ständige Möglichkeit, beobachtet zu werden, eine Selbstdisziplinierung ein. Damit lässt sich die in den Kerkern noch unumgehbare physische Gewalt vermeiden. Die Gefangenen werden nicht mehr zur Verhaltensanpassung gezwungen, sondern verinnerlichen Verhaltensregeln von selbst. Weil man immer beobachtet werden könnte, verhält man sich, als würde man immer beobachtet werden: "Die Wirkung der Überwachung ist permanent, auch wenn ihre Durchführung sporadisch ist", schreibt Foucault.

Diese Technologie der Machtausübung, der Panoptismus, wird bei Foucault zum Modell einer ganzen Gesellschaftsform. In der Disziplinargesellschaft werden neben den Gefängnissen auch die Schulen, das Militär, die Fabriken und die Krankenhäuser nach dem panoptischen Modell konzipiert. Jedes Individuum durchläuft in verschiedenen Institutionen Selbstdisziplinierungsprozesse, in denen auf diese Weise Konformität erzeugt wird.

Aber leben wir noch in dieser Gesellschaft? Die Disziplinargesellschaft, die Foucault in Überwachen und Strafen beschreibt, ist die Gesellschaft des 19. Jahrhunderts. Sie ist, was „wir schon nicht mehr sind", schreibt der Philosoph Gilles Deleuze 1992 in seinem Postskriptum über die Kontrollgesellschaften. Die Kontrollgesellschaft ist, was nach der Disziplinargesellschaft kommt. Macht wird jetzt zu einem instabilen, unsichtbaren, fluiden Konzept. Sie geht nicht mehr von zentralen Punkten aus, sondern legt sich wie ein Netz über die Welt.

Der Begriff des Panoptikums funktioniert nicht mehr, um die Überwachungstechnologie des 21. Jahrhunderts zu beschreiben. Im Gegensatz zu den namensgebenden Steinen aus Herr der Ringe beobachtet Palantir nichts mehr direkt, sondern dient dem Gewinnen von Informationen aus unübersichtlichen Datenbanken. Im Gegensatz zum Benthams Panoptikum ist Palantir kein Ort, es ist als Software nicht in der gleichen Weise an Raum gebunden wie das Panoptikum. Die Software kann nicht nur von einem Wächter in seinem Wachturm, sondern von überall genutzt werden – Palantir wirbt damit, “ops centers anywhere” (Kontrollzentren überall) zu ermöglichen. Kontrolle löst sich im Zeitalter der Digitalität von einem fixierten Ort.

Vom Panoptikum zum Oligoptikum zum Poligoptikum

Der für die Erfindung der Akteur-Netzwerk-Theorie bekannte Soziologie Bruno Latour erkennt den Trend zur Auflösung räumlicher Bindungen. Aber trotzdem, so eine seiner zentralen Einsichten, braucht jede Institution eine ganz konkrete, lokalisierbare Infrastruktur.

Das Panoptikum hält Latour weder für eine realistische noch für eine historisch adäquate Beschreibung von Beobachtungsprozessen. Er macht in seiner 2010 erschienenen Neuen Soziologie für eine neue Gesellschaft stattdessen den Vorschlag, von Oligoptiken zu sprechen. Im Gegensatz zu Panoptiken, die alles sehen, sehen Oligoptiken nur wenig – das aber sehr gut. Eine Oligoptik ist eine Videokamera, die nur einen kleinen Ausschnitt, nur eine Straßenecke der Stadt aufzeichnet, in der sie hängt, diese aber 24 Stunden, sieben Tage die Woche. Ein Beispiel des 20. Jahrhunderts war das Telefonbuch, durch das die Stadt auf wenige Aspekte, die Telefonnummern und Adressen ihrer BewohnerInnen, reduziert wird.

Latour nennt die Oligoptiken in Zoom auf Paris „[enge] Fenster, die es erlauben, sich durch eine bestimmte Anzahl von engen Übertragungswegen mit den Wesen […] zu verbinden”. Die Oligoptiken gehen nur sehr wenige Verbindungen mit wenigen anderen Akteuren ein. Man sieht durch sie sehr viel – die ganze Straßenecke, tausende Telefonnummern – und sehr wenig – nur diese eine Straßenecke, nur diese Telefonnummern.

Von veränderten Kontrollmechanismen zeugt auch Thiels Software: Ein häufiges Missverständnis in der öffentlichen Debatte um Palantir ist die Vorstellung, die Software von Palantir würde zum Daten sammeln und zur Überwachung eingesetzt werden. Aber das Ziel der Firma war nie das direkte Sammeln von Daten oder die direkte Überwachung. Stattdessen setzt Palantir erst da an, wo Daten – unüberschaubare Mengen an Daten – schon vorliegen. Schon in den Gründungsjahren der frühen 2000er, bevor die modernen KI-Tools entwickelt waren, die die Firma heute vertreibt, war ein Großteil des Geschäfts von Palantir die Beratung von Organisationen zur Frage, wie verschiedene Datenbanken miteinander verbunden und wie Informationen aus großen Datenmengen gewonnen werden können. Wirtschaftlicher Erfolg stellte sich für die Firma erst in den letzten Jahren, nach den großen Sprüngen im Bereich des Big-Data und der sogenannten künstlichen Intelligenz ein.

Die von Palantir vertriebene Software dient nicht dem Sammeln von Daten, sie dient ihrer Auswertung und Verbindung. Palantir sucht Muster, Regelmäßigkeiten in Datenbanken, die von unzähligen Oligoptiken gefüllt werden. Jede Instanz der Software geht unzählige Verbindungen ein und bildet so einen Knoten in einem unüberschaubaren Netzwerk.

Die Idealvorstellung der Arbeit mit Palantir in Sicherheitsbehörden sieht ungefähr so aus: Um einen hypothetischen Verdächtigen zu fassen, werden die Feeds verschiedener Überwachungskameras, auf denen der Verdächtige zu sehen ist, zusammengeschaltet mit den Bezahldaten seiner Kreditkarte und den Verbindungsdaten seines Handys aus einer Funkzellenabfrage. Parallel werden außerdem seine Meldedaten überprüft, sein Social-Media wird auf Verbindungen zu anderen Verdächtigen überprüft. Im Interface der Software erscheint der Verdächtige dann als Schnittpunkt unzähliger Verbindungen und kann so – zunächst im Netzwerk dieser Verbindungen und dann in der realen Welt – lokalisiert werden.

In seinen Arbeiten über Leitstellen und Kontrollzentren beschreibt der Sicherheitsforscher Leon Hempel, wie kleine Einheiten – die Verwaltung eines Stromnetzes, die Überwachung des Abwassersystems oder die Notrufzentrale einer Stadt – zusammengelegt werden zu großen, gemeinsamen Leitstellen. Oligoptika, die sich auf kleine, spezifische Ausschnitte oder einzelne Aspekte beziehen, werden integriert in einem Oligoptikon zweiter Ordnung, dass diese anderen Oligoptiken beobachtet. Der Begriff, den Hempel dafür findet, lautet Poligoptikum.

Palantir verbindet verschiedene Oligoptiken so zu einem Poligoptikum, dass am Ende ein Bild entsteht, in dem man nicht mehr nur Ausschnitte, sondern vermeintlich alles sieht: Nicht mehr die einzelne Straßenecke im Feed einer einzelnen Kamera, sondern alle Straßenecken der Stadt in den Feeds vieler Kameras. Nicht mehr die Verbindungsinformationen einer Funkzelle, sondern Verbindungsinformationen aller Funkzellen im überwachten Gebiet.

Poligoptiken zeigen nicht mehr nur den Raum, sie machen durch Datenanalyse auch zeitliche Vorhersagen möglich. Durch dieses sogenannte predictive policing werden Handlungen nicht mehr nur nachvollzogen, sondern vorhergesagt. So werden nicht mehr nur aktuelle, sondern auch zukünftige Ereignisse anschlussfähig für das Handeln in der Gegenwart. Mit den Poligoptiken lässt sich nicht mehr nur der Raum, sondern auch die Zeit kontrollieren.

Bruno Latour spricht über diesen Eindruck des völligen Überblicken-könnens, der hier entsteht, als Panorama. Panoramen scheinen alles zu zeigen, bleiben aber ein Bild, das in einen geschlossenen Raum gemalt wurde – man sieht nicht alles, aber ein kohärentes, zusammenhängendes Bild. Dieses Bild ohne sichtbare Lücken erzeugt den Eindruck, man sei eingetaucht in die wirkliche Welt. Es vermittelt einen Eindruck völliger Kontrolle über das, was überblickt wird, ohne dass diese tatsächlich möglich ist.

Trotzdem ist genau diese Kontrolle das Versprechen, mit dem Palantir seine Software verkauft. Wie im Panoptikum ist auch hier das Ziel, einen Punkt der Übersicht aufzubauen, an dem durch das mit ihm gewonnene Wissen Kontrolle ermöglicht wird.

Kontrolle und Abhängigkeit

Eine Instanz von Palantir mag nicht an einen bestimmten Ort gebunden sein – die Struktur aus Überwachung und Gefühl des Überwachtseins besteht weiterhin. Das Gefühl, dauerhaft unter Beobachtung zu stehen, wird durch das wenige Wissen über Palantir und seine Funktionsweise nur bestärkt. Auch unter Bedingungen des Poligoptikums kann sich so ein panoptischer Effekt, der schließlich zu einer Anpassung der Überwachten an die Überwachung, zu einem präventiven Konformismus führt, einstellen. Dass diese Normalisierungsprozesse, die jede Abweichung unterdrücken, zutiefst problematisch sind für eine demokratische Gesellschaft, die nicht zuletzt auf der Freiheit des Einzelnen und seiner Entfaltung beruht, war auch schon mit dem Begriff des Panoptikums offenbar. Aber erst mit dem Poligoptikum wird sichtbar, wie fluide, wie komplex die Prozesse von Abhängigkeit und Kontrolle sind, die durch moderne Überwachungsarchitektur fließen.

Nicht nur kontrollieren ja die Überwacher die Überwachten. Mit Latour kann man auch die Verbindungen, die Abhängigkeiten der Überwacher von der Technologie selbst beobachten. In den Poligoptiken wird gesehen, was auf den Bildschirmen angezeigt wird und sonst gar nichts. Dabei ist schon lange klar, dass jedes Bild anfällig für Verzerrungen ist, dass jeder Algorithmus seine Biases hat. Aber man muss sich auf das Panorama, das Bild verlassen – man sieht, trotz allem, nur Aspekte. Auch im Panorama des Poligoptikons kann man keine absolute Perspektive einnehmen.

Doch die Nutzung dieser Technologien macht nicht nur abhängig von ihnen und ihrer vereinfachten Sicht auf die Welt, sondern darüber hinaus von den Konzernen und ihren BesitzerInnen, die sich über diese Verhältnisse von Kontrolle und Abhängigkeit durchaus bewusst sind. Peter Thiel macht Sicherheitsbehörden und andere staatliche Organisationen ganz bewusst abhängig von seinen Technologien – weil er weiß, dass er damit Kontrolle über sie erlangt.

Es ist deswegen nicht falsch, sich eine europäische, von Thiel und Palantir abhängige Alternative zu wünschen. Aber dieser Wunsch verkennt die anderen Abhängigkeiten, in die man sich mit der Nutzung solcher Mittel begibt. Auch von gutwilligen, demokratischen Organisationen produzierte Software, die dem Ausbau von Kontrolle dient, dient dem Ausbau von Kontrolle. Und auch eine europäische Alternative zu Palantir würde auf Daten beruhen, von denen nicht klar ist, ob sie gesammelt, geschweige denn verbunden werden dürfen.

Vielleicht sollte man stattdessen überlegen ob die totale Kontrolle, die Palantir verspricht, wirklich nötig ist und dabei berücksichtigen, dass eine demokratische Gesellschaft nicht auf Kontrolle, sondern auf Vertrauen basiert und dass Sicherheit nicht nur Überwachung und Verfolgung, sondern vor allem Anerkennung und Vorsorge braucht.

Die Palantíri, nach denen Thiels Firma benannt ist, werden in Tolkiens Erzählung schließlich zur Waffe gegen das Gute. Ein Exemplar der Steine fällt Sauron – dem bösen König, der auch das große Auge aufstellen lässt – in die Hände, was es ihm ermöglicht, die anderen Steine und damit ihre Nutzer zu manipulieren. Sauron ändert, was Denehthor, ein gutwilliger Regierungsbeamter, in seinem Palantir sehen kann, und treibt ihn so langsam, aber sicher, in die Verzweiflung. Und Saruman, ursprünglich ein guter Zauberer, wird durch die Verwendung seines Palantirs schließlich zum Diener Saurons.

Und obwohl sich Tolkien immer gegen die Lesart von Herr der Ringe als Analogie auf reale Politik wehrte, ließ er sich 1958 in Rotterdam zu dieser Bemerkung hinreißen:

I look East, West, North, and South, and I do not see Sauron; but I see that Saruman has many descendants. We Hobbits have against them no magic weapons. Yet, my gentlehobbits, I give you this toast: To the Hobbits. May they outlast the Sarumans and see spring again in the trees.