| Popkultur

Deine Mutter ist ein Algorithmus: Die Science-Fiction-Realität von Jasmina Tešanović und Bruce Sterling

Ein Gespräch mit Jasmina Tešanović und Bruce Sterling über Belgrad, IoT, Singularity Threat, zwanglose Mysogenie, Maker-Spaces und Nordkorea.

Fanboy-Disclaimer: Mein erstes Buch von Bruce Sterling habe ich irgendwann Anfang der 90-er gelesen. Kann gut sein, dass es „The Hacker Crackdown“ war. Ich weiß es nicht mehr. Jedenfalls zählt er zu den Autoren, die ich einmal vors Mikro kriegen wollte. Mit Neal Stephenson ist mir das schon 2008 gelungen. Fehlt nur nur noch William Gibson, dann brauche ich eine neue Liste. 

Folgendes Interview erschien am 24. November 2016 in der VICE (Internetausgabe).

 

Eine beliebte Frage der Science-Fiction-Wissenschafter im Jahr 2016 war: Wie real ist die Gefahr einer Singularität, also einer künstlichen Superintelligenz mit unvorhersehbaren Folgen für die Menschheit? In diesem Artikel steht dazu fast alles, was man dazu schreiben kann—ihr solltet also entsprechend viel Geduld mitbringen, wenn ihr dieses Epos wirklich lesen und verstehen wollt.

Die Gefahr, dass wir tatsächlich bald eine solche Singularität erleben könnten, schätzen Wissenschaftler und SF-Enthusiasten unterschiedlich groß ein. Jasmina Tešanovič und Bruce Sterling haben ihr Urteil in nur ein Wort gebündelt: nämlich „Bullshit“. Die beiden müssen es wissen. Hinter einem von Bruce Sterling spontan ausgestoßenem „Bullshit“ steckt aufgerundet ein halbes Jahrhundert Denkarbeit über Technologie, Technologisierung und ihre gesellschaftlichen Konsequenzen, die er als Fachautor, aber auch als Science-Fiction-Autor analysiert und in die Zukunft überträgt. Oft als Fiktion, manchmal als Prognose.

Es gibt Felder in der Netzpolitik, die ohne eine Sichtweise von Sterling nicht auskommen. Sein Essay in E-Buchform The Epic Struggle of the Internet of Things ist ein gutes Beispiel für einen klaren Blick auf Zusammenhänge von technologischer Entwicklung, kommerzieller Realität und politischer Implikation.

Gemeinsam mit seiner Frau, der Künstlerin, Autorin und feministisch und politisch aktivistischen Jasmina Tešanović, bewohnt und betreibt er die „Casa Jasmina“ in der Nähe von Turin—ein experimentelles Haus der Zukunft und Maker-Space für ansässige Künstler und Hacker. Was dort passiert und welche Erkenntnisse sie daraus gewinnen, haben mir Tešanovič und Sterling in einem Gespräch am Rand der Wienwoche erklärt. In seine Erläuterungen über moderne Computerkriminalität, Deep Learning und Hacker-Kommunen streut Sterling gerne fiktive Dialoge oder Zitate. Tešanović kommt ursprünglich aus Belgrad, mittlerweile verbringt ihr Mann aber mehr Zeit dort als sie selbst.

Sterling Tesanovic Alm

VICE: Ich komme gerade aus Belgrad und was mir dort aufgefallen ist, ist die Mischung aus Zerfall, gezieltem Abriss und gleichzeitigem Neubau. Das ist kreative Zerstörung am lebenden Objekt. Unter anderem gibt es ja diese Belgrade Waterfront.
Sterling: Ein Skandal!
Tešanović: Kennst du den Skandal? Das ist vor ein paar Monaten passiert. Bewaffnete Einsatzkräfte kamen um drei in der Nacht. Mit Maschinengewehren. Sie haben die Leute, die dort leben, aus dem Bett geholt und abtransportiert wie in ein Konzentrationslager. Dann haben sie die Gebäude geschliffen.
Sterling: Ein Abriss durch eine paramilitärische Truppe.
Tešanović: Und am nächsten Tag meinten die Behörden einfach: „Wir haben keine Ahnung, wer das war.“ Man konnte ihre Gesichter nicht erkennen.
Sterling: Sie trugen keine Abzeichen. Eine seltsame Entwicklung, die wochenlange Proteste nach sich zog. Menschen forderten Rechtsstaatlichkeit ein.
Tešanović: Das habe ich seit Milošević nicht mehr gesehen.

Die Geschichte geht anscheinend etwas weiter, als ich mit „kreativer Zerstörung“ vorhin meinte. Als Science-Fiction-Autor muss es ja aufregend sein, in einer Stadt wie Belgrad zu leben, die ihre Vergangenheit auf diese Art in die Zukunft mitnimmt.
Sterling: Das wäre dann eher Steampunk als Cyberpunk. Belgrad ist 19 Mal zerstört wurden. Die haben die Scheiße aus der Stadt rausgeprügelt. Aber Belgrad ist nicht wie Rom, wo noch Zeug aus dem Römischen Reich herumsteht. Das Kolosseum ist noch immer eine Riesenattraktion. Aber das ist auch etwas, über das ich mit William Gibson öfter spreche—dieses Gefühl der Zeitlosigkeit. Wie kann das Alte futuristisch aussehen und umgekehrt.

Was macht das neue Belgrad aus?
Sterling: Das neue Belgrad, das Party-Belgrad, ist ein Echo der 80er. Der neue kalte Krieg, die Sanktionen gegen Russland sind extrem hilfreich für die serbische Wirtschaft. Die Russen kommen und verbringen viel Zeit mit ihren alten jugoslawischen Freunden: „Hey, ich habe hier ein bisschen Rohöl zu verkaufen, aber es gibt da ein paar Probleme.“ Die Beziehungen der EU zu Russland sind am Sand. Das ist großartig für die Serben, die genau wissen, wie die einen gegen die anderen auszuspielen sind. Die bleiben lieber ein Hong Kong der zwielichtigen Geschäfte.

Du verbringst viel Zeit in Belgrad, aber ihr lebt in Turin. Was ist die „Casa Jasmina“?
Sterling: Unser Haus ist so etwas wie ein Open-Source-Maker-Lab, das auch viele Menschen anzieht, die weder an Politik noch Science-Fiction interessiert sind. Designer, Kuratoren, Künstler, Möbelmacher und natürlich Architekten, weil es ein Haus ist. Darüber sind wir sehr glücklich, weil wir ein Zentrum für Turiner kulturellen Aktivismus sein wollten. Und das wird auch gut angenommen: „Ihr habt ein Haus der Zukunft? Cool, lass uns die Zukunft sehen.“ – „Warum Zukunft?“ – „Weil da ein Science-Fiction-Autor drin lebt.“ Es gibt eine große Maker-Community in Turin. Die bauen Stühle, Lampen, alles mögliche seltsame Zeug, aber die haben keinen Showroom. Es gibt keinen Maker-IKEA, nur Kickstarter und Etsy. Also verkaufen sie ihre Dinge online.

Euer Haus ist natürlich auch eine Spielwiese für das Internet der Dinge, kurz IoT. Wie geht ihr mit dem Thema Daten um?
Tešanović: Die Jasmini—so nennen sich die Typen bei uns selbst—sind brilliant. Die intelligentesten Menschen in Turin und vielleicht sogar in Italien. Das Thema kam aber erst auf, als ich auch Frauen die Casa Jasmina geholt habe. Die haben sich als erste auch Gedanken zum Thema Privatsphäre gemacht und darüber, wer diese Dinge kontrolliert. Das erste, was sie sagten, war: „Wir wollen mit nichts verbunden sein, außer mit uns selbst.“ Arduino hat uns dann eine Cloud eingerichtet und wir haben uns mit den Fragen beschäftigt, was wir mit den Daten machen und wo sie gespeichert sind. Es gibt bei uns nur wenige Devices, die Verbindungen nach außen haben.

Sterling: Ich werde seit 30 Jahren dafür engagiert, um mir Gedanken zu diesen Dingen zu machen und davon zu berichten. Den Machtkampf über die Kontrolle der Devices gibt es. Wenn du Boing Boing liest, findest du diese Artikel über die Machtübernahme von Dingen in deinem Haus. Und es gibt auch eine Machtverschiebung weg vom Internet zu den fünf Overlords, den Big 5: Facebook, Google, Apple, Amazon, Microsoft. Denen ist das Internet egal, die errichten Silos. Apple erwähnt das Internet nicht einmal mehr. Facebook will, dass alles in Facebook stattfindet. Google will, dass du dich überall einloggst. Amazon will Herrscher der Logistik sein und Microsoft wird niemals sein Monopol in der Geschäftswelt aufgeben.

Die führt zu den politischen Implikationen von Datenströmen und vernetzten Geräten zu Hause. Ein Zuhause ist ein spezieller Ort, der nicht ohne Frauen, Kinder und alte Leute funktioniert. Deswegen war es wichtig für uns, dass wir Casa Jasmina als „Zuhause“ markiert haben. Casa Jasmina hat deswegen auch ein Kinderzimmer, obwohl es keine Kinder gibt. Aber wenn du reingehst und siehst, dass es hier auch Kinder geben könnte, machst du dir Gedanken über politische Implikationen der „Home Automation“.

Wenn der Nutzer der absolute Herrscher des Hauses ist, dann werden die Kinder auf einmal Sklaven, sie werden zu lebendem Inventar. Überall sind Monitore und das ist ein echtes Problem im Familienverbund. Wer das Device hat, wird zum brutalen Herrscher. Du kannst kein Fenster und keine Türe mehr unbeobachtet öffnen.

Tešanović: Es macht aus den Kindern Sklaven und es macht die Mütter ängstlich. Die Mütter können ständig den Herzschlag des Kindes hören. Keine normale Mutter will das.

Sterling: Aus unseren persönlichen Beziehungen werden Code-Strukturen. Mütter werden Algorithmen. Aber du willst nicht, dass aus deiner Mutter ein Algorithmus wird. Der einzige Grund das zu tun, ist es ein Geschäftsmodell darauf aufzubauen, um einen Kickback zu erhalten. Frauen reden nicht über den Impact von IoT auf ihr tägliches Leben. Aber das ist potenziell eine Riesensache. Wir kennen ja diese IoT-HighTech-Zonen ohne Frauen. Es sind eigentlich Hacker-Spaces—also eigentlich Baracken.

Auch hier gibt es einen um die Ecke. Das Metalab.
Sterling: Ja, wir waren gerade im Metalab. Aber wer wäscht dort Geschirr? Gibt es Spiegel? Nein. Ein Schaumbad? Nein. Welche Gewürze? Nicht viele. „Was esst ihr so?“ – „Tiefkühlpizza.“ Was ist das für ein Leben? Das ist kein Zuhause. Bring mal dein 3-jähriges Kind her, um zu sehen, ob es sich wohlfühlt. Hier gibt es keine Bilder, keine Schlafzimmer, keine Vorhänge, kein angenehmes Licht, keine angenehme Musik. Alles riecht nach Sägespänen und Plastik. Das ist natürlich an sich kein Problem. Es wird ein Problem, wenn du glaubst mit deiner Familie inklusive Großmutter einziehen zu können. Das ist kein Ort, an dem eine Großmutter lebt.

Tešanović: Ich habe zwei Mädchen dort getroffen, die meinten: „Ach wir sind nur hier, um ein bisschen coden zu lernen. Aber alles andere stinkt.“ Mädchen fühlen sich dort nicht so wohl. Natürlich sind die Männer nett zu den Frauen dort, aber sie bemerken die Zustände nicht einmal. Das ist die High-Tech-Szene in IoT. Auf der ganzen Welt.

Kommen wir zu etwas anderem. Die Medienlandschaft zersplittert. Wir konsumieren unsere selbst gebauten Nischen. Netflix hat gerade in einen Algorithmus investiert, um dir automatisch vorzuspielen, was dir gefällt. Was für Dinge werden in Zukunft identitätsstiftend sein?
Tešanovič: Netflix belästigt mich. Ich frage mich, warum sie mir das schicken.
Ich kann keinen Proxy verwenden und sehe nur das italienische Angebot, aber ich bekomme nie, was ich will. Ich denke mir: „Verwendet doch bitte mein Facebook-Verhalten.“

Sterling: Die Frage wäre besser, wenn du „Identität“ mit „monetarisierbaren Nutzerdaten“ ersetzt. Das ist ein Profil mit Voreinstellungen des Nutzers. Keine Identität. Schau dir den Typen an in seinem Dorf im Mittleren Westen. Niemand geht dort hin. Dort sind die 30 Prozent, die nicht das Internet sind. Der hat viel Identität. Er war die letzten 30 Jahre Maisbauer, aber er hat nichts, das die Big 5 monetarisieren könnten.

Ist es überhaupt möglich, keine Spuren zu hinterlassen?
Sterling: Ja, das passiert doch die ganze Zeit. Die Leute in Aleppo hinterlassen keine Spuren, Die werden liquidiert, getötet und landen in anonymen Gräbern. Getötet von Drohnen. „Schau dir Mohammed an, der war in Brüssel in der Schule, dann ging er zur IS-Miliz und wir mussten ihn mit einer Drohne liquidieren.“ Haben diese Typen Identität? Nein. Das sind richtige Schattenschleicher. Sie verschwinden. Sowas gibt es tonnenweise. Oder die Typen von der NSA, die nie ein Wort reden und nie sagen, wo sie arbeiten. Es gibt zehntausende von denen.

Das erinnert mich an den Snowden-Film. Habt ihr den gesehen?
Sterling: Nein, Ich wette der ist dämlich.

Im Wesentlichen ist es eine Liebesgeschichte.
Tešanović: Ist die wenigstens wahr?
Sterling: Ja. Er hat eine Freundin. Na zum Glück ist es kein Film über seinen Hund. Ich folge Ed auf Twitter. Ich bin up to date.

Kennt ihr Bill Binney? Der österreichische Regisseur Friedrich Moser hat einen Film über ihn gemacht: An Good American.
Sterling: Das ist dieser andere Typ, der früher bei der NSA war, oder? Ja, kenne ich. Aber die Shadow Brokers interessieren mich eher. Ich weiß nicht, wer die sind. Die leaken Dinge, die größer sind als das von Snowden veröffentlichte Material. Die legen NSA-Attackware offen. Das ist ein richtiges Cyberwar-Leck. Das sind echte Hacker, nicht irgendwelche Code-Kids, die irgendwie Glück hatten, weil jemand unvorsichtig war und etwas herumliegen lassen hatte. Von denen gibt es immer mehr.

Wie heißt dieser arme Texaner? Barret Brown. Er sitzt im Knast in Texas. Er ist mit Anonymous abgehangen. Ein Untergrund-Journalist, der einen Haufen Zeug geleakt hat und die Feds wirklich verärgert hat. Er hat glaube ich fünf Jahre bekommen. Es ist sehr einfach in Texas im Gefängnis zu landen.

Tešanović: Das ist schon ziemlich unfair. Er ist jedenfalls nicht so schlimm wie der Typ von Silk Road. Ich habe seine Mutter bei SXSW getroffen und sie haben eine große Kampagne gemacht. Er ist wirklich schuldig. Der ist ein Drogen-Dealer. Er kann seine Hände nicht reinwaschen.

Sterling: Er hätte besser nicht einen FBI-Agenten auf YouTube bedrohen sollen. Das bringt ja nichts. Als ich „Hacker Crackdown“ geschrieben habe…

Tešanovič macht Musik, Sterling Visuals (bei der SXSW 2016)

Tešanovič macht Musik, Sterling Visuals (bei der SXSW 2016)

Das war dieses Buch mit Kevin Mitnick vor 20 Jahren.
Sterling: Ja! Der kommt auch vor. Das ist sogar schon 25 Jahre her, denn ich habe vor kurzem eine neue Einleitung dafür geschrieben. Da liegt doch eine Generation dazwischen in der sich die Verbrechen in dem Bereich entwickelt haben. Ein Vierteljahrhundert.

Ich schreibe ja nicht gern über Computer-Verbrechen. Es ist ein deprimierendes Thema. Aber ich habe journalistische Kontakte in diese Welt. Es gibt einige Entwicklungen, die wirklich böse sind. So etwas wie Silk Road gab es damals nicht.

Die SWIFT-Bankräuber. Die versuchen das Banksystem krachen zu lassen und haben unglaubliche Mengen an Geld gestohlen. Leute, die ich respektiere, sagen, es waren nordkoreanische Geheimdienste. Fucked up. Der nordkoreanische Geheimdienst als Bankräuber? Die haben Nuklearwaffen—kann man auch nicht einfach bauen—, U-Boote und Raketen, die so ca. funktionieren. Sie stehlen Millionen, die einfach aus dem System verschwinden. Chinesen würden das nicht machen. Die haben selbst Geld im SWIFT-System. Man trifft ja nicht so viele Cyber-Bankräuber. Und wenn jemand eine Bank ausraubt, dann müssen es Bankräuber sein. Das hat nicht den Fingerprint des üblichen cyberkriminellen Untergrunds. Ich habe natürlich keinen Beweis dafür, dass es Nordkoreaner sind. Aber es sind gefinkelte, dauerhafte Angriffe. Da macht jemand einen Full-Time-Job, den ganzen Tag, jeden Tag.

Und ich beobachte das aus der Perspektive von jemandem, der „The Hacker Crackdown“ geschrieben hat. Wenn mir damals jemand gesagt hätte, es wird militarisierte Chinesen, Russen, Ukrainer, Israelis usw. geben, die ihre ganze Zeit darauf verwenden, Systeme hochgehen zu lassen, DDOS Attacken zu fahren etc., ich hätte das als Worst Case Scenario betrachtet. „Oh mein Gott im Himmel, was haben die gemacht?“

Sie haben alle Rechner des DNC (Democratic National Committee) geleert und die E-Mails im Netz veröffentlicht. Das ist schlimmer als Watergate mal 100. „Wer hat das gemacht? Der Russische Geheimdienst? Kann sein, kann nicht sein. Ich hoffe, sie leaken noch mehr“, sagt er kichernd. Das ist eine seltsame, abgebrühte Gesellschaft.

Was haltet ihr von der „Bedrohung durch eine Singularität“?
Tešanović und Sterling: Bullshit!

Sterling: Du fragst zum richtigen Zeitpunkt. Wir haben an dieser Fragestellung im Arthur C. Clarke Center for Human Imagination gearbeitet. Die Frage war: Wie sieht ein automatisiertes, intelligentes Home Environment in 25 Jahren aus? Die Antwort: Es wird es nicht viel AI geben, dafür aber viel Deep Learning. Wir steuern auf eine Situation zu, die keine Singularität ist—keine körperlose Stimme, die zu dir spricht, wie im Film Her. Wenn Siri mit dir redet, redet Apple mit dir. Siri weiß nur, was Apple weiß.

Aber es wird eine Situation geben, da drehst du das Licht auf und alles konfiguriert sich nach deinen Wünschen. Kleine Objekte, Hausroboter laufen herum und machen Zeug.

Aber die haben keine Gehirne.
Tešanović: Letzten Abend hat Bruce Musik gehört. Und ich mache ja auch experimentelle Musik. Ich bin da eigentlich sehr offen, habe aber festgestellt: Das ist Bullshit. Heute in der Früh sagt er mir, dass es künstlich-intelligente Musik war.

Sterling: Es ist ein Deep-Learning-System von Sony. Sie bringen ein neues Album raus. Aus einer riesigen Datenbank mit zum Beispiel Jazz-Alben der 50er und 60er entsteht ein stochastisches Pasticcio. Ich spiele es ab. Es klingt ein bisschen wie Nat King Cole. Die Melodie driftet ab. Es ist ein eigentlich ein Stück Pop, aber nicht menschlich. Das ist genau so sehr Kunst wie ein Mondrian-Screensaver. Es gibt ja tonnenweise generierte Musik. Normalerweise entsteht die durch Algorithmen, aber hier werden große Mengen menschenkomponierter Musik gesamplet. Es ist Social Intelligence.

Aber eben Deep Learning und nicht AI.
Sterling: Ja, aber es ist angenehm. Ich werde das Album kaufen. Es klingt definitiv anders als generierte Musik. Es ist keine Singularität. Es ist nicht so gut wie Duke Ellington. Es ist Jazz, ein Pasticcio einer Periode im Jazz. Aber das ist es natürlich auch nicht, weil Jazz damals mit damaliger Technologie in den Studios, mit damaligen Mikrofonen aufgenommen wurde. Das klang roh und seltsam. Und es ist gibt diese funky Lyrics: „Ich liebe dich, außer du bist mit diesem anderen Typen unterwegs. Dann schlage ich dich und alles wird gut.“ Diese zwanglose Misogynie. (Anm. Achtung Sarkasmus.) „Heiraten wir. Wenn nicht, muss ich dich töten.“ Bei diesen Sachen, die ich gehört habe, gibt es auch ein Heiterkeit in der Melodie, ohne die kulturelle Last. Es klingt aber nicht menschlich, weil der emotionale Content fehlt. Du wirst deswegen nicht weinen.

 

Holy Fire! Just stumbled into Bruce Sterling. #SXSW #heavyweathernails

A photo posted by Niko Alm (@nikoalm) on