#failoftheweek: Wie uns Gabun zeigt, dass Fake News nur der Anfang waren

Ein Präsident schaut in seiner Neujahrsansprache starr und unbeweglich in die Kamera. Das Video gerät unter Manipulationsverdacht und löst einen Putsch aus. In Gabun kann man beobachten, wie Deep Fake Videos Zweifel an der Realität aufkommen lassen.

Eigentlich scheint das Video eine recht typische Neujahrsansprache zu zeigen. Beschwingte Hymne am Anfang, links drei Fahnen, staatsmännische Ansprache ans Volk, irgendwas mit Wohlstand und Zusammenhalt, beschwingte Hymne am Ende, Hurra, das neue Jahr kann kommen. Doch etwas ist anders, als Gabuns Präsident Ali-Ben Bongo sich dieses Mal mit salbungsvollen Worten an sein Volk wendet. Da ist zunächst einmal die Tatsache, dass Präsident Bongo überhaupt eine Neujahrsansprache hält. Denn der autoritäre Präsident, dessen Familie sich seit fast 50 Jahren an die Macht klammert, gilt als schwer krank, seit einem Schlaganfall wird er in Saudi Arabien behandelt, längst kursieren Gerüchte, er sei in Wirklichkeit tot. Und dann blickt der 60-jährige auch noch merkwürdig starr in die Kamera. Klar, das kann vermutlich auch am Gesundheitszustand liegen, aber warum wirken seine Augen so unbeweglich, seine Pupillen scheinen wie festgetackert und warum blinzelt der Bongo nur 13 mal in den zwei Minuten? Etwa halb so oft viel wie ein Durchschnittsmensch? Dass Bongo so selten blinzelt könnte mit dazu geführt haben, dass wenig später ein weiteres Video durch Netzt kursiert.

In diesem Video geht es weniger staatsmännisch zu. Ein Offizier verliest eine Erklärung, es geht um den schlechten Gesundheitszustand des Präsidenten, darum, dass das Land seine Würde verloren habe und dass es so ja wohl nicht mehr weiter gehen kann. Im Hintergrund zwei Soldaten, Maschinengewehre im Anschlag. Der Putsch scheitert, aber interessant ist die Ursache des Staatstreichs, denn offenbar probten die Soldaten den Aufstand auch deswegen, weil politische Gegner des Präsidenten behaupteten, das Video mit der Neujahrsansprache sei in Wirklichkeit ein Deep Fake.

Well, that escalated quickly!

Deepfakes sind Videos, bei denen mit Hilfe von künstlicher Intelligenz und Machine Learning beispielsweise die Gesichter von Personen ausgetauscht werden. Fotoshop auf Speed quasi und für bewegte Bilder. Das Gesicht von Steve Buscemi landet dann auf dem von Jennifer Lawrence und natürlich wird beträchtliche Rechenkapazität darauf verwendet, reihenweise Deepfake-Pornos mit bekannten Schauspielerinnen zu erstellen, Scarlett Johansson hat den Kampf gegen künstliche Schmuddelfilmchen mit ihrem Gesicht bereits aufgegeben. Und natürlich könnte man so auch Politikern Dinge in den Mund legen, die sie gar nicht gesagt haben. Etwa Barack Obama.

K.I. legt Fallen. Und hilft uns sie zu finden.

Man kann solche, durch künstliche Intelligenz manipulierten, Videos entlarven und zwar mit Hilfe von, nunja, künstlicher Intelligenz. Ob aber die Neujahrsansprache von Ali-Ben Bongo wirklich manipuliert war, da sind sich die Experten nicht ganz einig. Und so kann man in Gabun jetzt schon sehen, worin die Gefahr der Deep-Fake-Technologie liegt: Nicht so sehr darin, dass ein manipuliertes Donald Trump Video gleich einen Atomkrieg auslöst. Aber darin, dass alles in Zweifel gezogen werden kann, dass Menschen nicht mehr wissen, ob sie ihren Augen noch trauen können und man sich nur noch auf eines einigen kann: Nichts ist, wie es scheint.

 

Witz und Wahnsinn der #10yearchallenge

Innerhalb kürzester Zeit ist die #10yearchallenge von einem harmlosen Spaß zum gefährlichsten Mem der Welt mutiert. Die Angst: Facebook könnte über dieses Mem an Gesichtsdaten kommen. So schlimm ist es nicht, glaubt Christian Schiffer. Mehr Hysterie sollten wir aber trotzdem wagen – aber aus anderen Gründen.

2009: Mark Zuckerberg erklärt in einem Interview mit der BBC, dass Facebook nie, wirklich niemals nie und auf wirklich gar keinen Fall, also das ist wirklich völlig ausgeschlossen, Nutzerdaten aus der Hand geben werde. Man werde das Vertrauen der Nutzer niemals missbrauchen, sagte der Facebook-Chef damals. Nunja, die #10yearchallenge ist für Facebook diesbezüglich nicht besonders gut verlaufen. Facebook 2009: Wir sind Fort Knox für Eure Daten! Facebook 2019: Eure Daten? Mhmtja… also die Daten sind irgendwie an windige Firmen raus gegangen, um damit einen Reality TV-Star ins Weiße Haus zu hieven. #keineahnung

Das Image von Facebook hat sich in den letzten zehn Jahren eingependelt auf einem Niveau irgendwo zwischen marodem Atomkraftwerks-Betreiber, Frank Ribery und einem Tellerminen-Hersteller und nur so ist es zu erklären, dass die #10yearchallenge für viele innerhalb kürzester Zeit von einem harmlosen Spaß zum gefährlichsten Mem der Welt mutiert ist. Am Anfang posteten nur Promis Bilder, die sie vor zehn Jahren zeigten und heute im Jahr 2019, irgendwann erreichte der Hype auch Otto-Normal-Nutzer, irgendwann kamen die Warner und irgendwann dann kamen die Ironiker, die jeden zum Deppen erklärten, der bei dem Mem mitmachte:

In der aufkommenden Panik rund um die #10yearchallenge vermischt sich das Misstrauen gegenüber Facebook mit dem Misstrauen gegenüber künstlicher Intelligenz. Facebook traut man sowieso alles zu und künstliche Intelligenz ist eine Technologie von der es eh immer heißt, sie könne sogar die Menschheit auslöschen.

Die Wahrheit allerdings ist: Facebook braucht kein Mem, um Gesichtsdaten von uns auszuwerten, Facebook ist sowieso randvoll mit – nunja – Faces. Und was die künstliche Intelligenz angeht: Das Mem hat mittlerweile unzählige Parodien hervorgebracht, was auch die schlaueste KI überfordern dürfte.

Die Aufregung um die #10yearchallenge zeigt vor allem, wie kaputt die Aufmerksamkeits-Ökonomie bei Datenschutzthemen ist. Da saugen Unternehmen über Jahre unsere intimsten Daten ab, aber ein Foto-Mem soll dann plötzlich das große Problem sein? Da verkaufen Kommunen unsere Daten aus dem Melderegister und alle so: Hey da drüben, dieses neue Mem, das ist voll die Datenschutz-Apokalypse!

Die Hysterie um die #10yearchallenge erinnert an die „Facebook hört uns alle ab“-Hysterie, auch hier wird völlig unterschätzte welche Daten ein Konzern wie Facebook von uns sowieso schon hat – und zwar ohne, dass man uns dabei extra noch abhören müsste. Hysterie ist ja durchaus angebracht, aber eben nicht aus Angst vor Foto-Memen und KI-Voodoo, sondern aus Angst vor der Vorstellung, wie viele Daten Unternehmen wie Facebook, aber auch staatliche Institutionen in den kommenden zehn Jahren noch von uns sammeln werden.

 

#failoftheweek: Wer hat Angst vorm bösen Hacker?

Ein „Hack“ hält die Bundesrepublik in Atem – und entpuppt sich als viel heiße Luft. Christian Schiffer ist überzeugt: Das Problem sind keine 20-jährigen Nerds mit Fortnite auf dem Zweitmonitor. Sondern unsere eigene Dummheit.

Dieses Jahr jährt er sich zum 35. mal: Der berühmte BTX-Hack, bei dem zwei Computerfreaks die Hamburger Sparkasse um über 130.000 D-Mark erleichtert hatten. Das Geld gaben sie zurück, sie wollten nicht reich werden, sondern auf die schwerwiegenden Sicherheitsprobleme des BTX-Systems aufmerksam machen. Der Hack machte den Chaos Computer-Club schlagartig berühmt und den Hacker auch hierzulande zu einer mythisch umrankten Figur.

Ein Hacker, das war jemand, der über geradezu arkane Fähigkeiten verfügte, einer, der in Systeme eindrang, sie manipulierte, ein Computer-Freak mit dem schwarzen Gürtel in Computer-Taekwondo. Wenn man den Hacker etwas fragte, dann antwortete er meistens in einer Art Geheimsprache, die nur er und seinen Hacker-Buddies aus den sinisteren Hacker-Zirkeln verstanden.

Jeder kann ein Hacker sein – aber muss man?

Und heute? Heute geht als Hacker schon ein 20-jähriger durch, der sich im Darknet ein paar Passwörter kauft und ansonsten einfach nur ein Mensch mit zu viel Zeit, großer Akribie und typischen Rechtsaußen-Ansichten zu sein scheint. Trotzdem war die ganze Woche über die Rede vom größten Hackerangriff in der Geschichte der Bundesrepublik Deutschland. Und für Bild-Chef Julian Reichelt war am Dienstag klar:

“Das waren nicht ein oder zwei Jungs, die bei Pizza und Cola light im Keller gesessen haben. Das muss eine größere Struktur gewesen sein. Das Wahrscheinlichste ist, dass es zumindest staatliche Unterstützung – von welcher Seite auch immer – für diesen Hack gab.“

Mit „Hackback“ gegen Fortnite-Nerds?

Die einzige große Struktur bei dem „Hack“ war aber das Ego des „Hackers“, der vermutlich bei Pizza und Cola light im Keller saß und beim „hacken“ so viele Spuren hinterließ, dass ihn die Polizei innerhalb kürzester Zeit ausfindig machen konnte. Unterdessen forderte Unionsfraktionsvize Thorsten Frei trotzdem den sogenannter „Hackback“, die Lizenz zum Zurück-Hacken. Dafür wäre eine Grundgesetzänderung notwendig und man kann sich fragen, was das eigentlich bringen soll: Soll die deutsche Cyberarmee in Zukunft gegen 20-jährige Schüler aus Homberg in Marsch gesetzt werden? Sollen unsere Computerstreitkräfte dann aus Vergeltung für das Veröffentlichen von Politiker-Handynummern seine Fortnite-Accounts lahmlegen? Oder noch kräftiger an der Spirale der Gewalt drehen, es auf die totale Eskalation ankommen lassen, alle verfügbaren Kräfte mobilisieren und zusätzlich auch noch seinen Minecraft-Account zerdeppern?

Die Schussfolgerungen aus diesem sogenannten „Hack“ müssen ganz andere sein: Man muss dafür sorgen, dass Doxing als Problem ernst genommen wird. Man muss dafür sorgen, dass „Passwort“ nicht mehr als Passwort verwendet wird und, auch wenn das wirklich schade ist, ja auch nicht mehr „ficken“, das angeblich viertbeliebteste Passwort der Republik. Was wir brauchen ist eine Art Internet-Erziehung, so wie früher Verkehrserziehung. Was wir brauchen ist eine Art Internet-Helmi, nur eben für Erwachsene. Denn die Bedrohung geht nicht von vermeintlichen Hackern aus, sondern von unserer Blödheit, Bequemlichkeit und Unwissenheit.

 

Warum die Gelbwesten wenig mit bösen Bots zu tun haben

Jetzt sollen Social Bots also auch noch schuld sein an den Gelbwesten-Protesten in Frankreich. Christian Schiffer findet im #failoftheweek hingegen: Alles Tech-Voodoo!

 

Diese Woche dann also doch: Emanuel Macron hielt eine Rede an die Nation. 21 Millionen Franzosen schauten zu, wie der Präsident nicht nur soziale Wohltaten ankündigte, sondern auch sich selbst eine Mitschuld gab, an den Protesten der Gelbwesten: Ja, auch er habe Fehler gemacht, er sei blind gewesen für die Probleme und die Wut vieler Franzosen. Doch dann ploppten diese Woche noch weitere Schuldige auf.

Schuldige mit so klingenden Namen wie etwa cryptodu30 oder teluap@06. Schuldige, auf die man irgendwie alles abwälzen kann, sei es die Wahl von Donald Trump, den Brexit und das Aufkommen von Fake News. Schuld haben sollen Social Bots, denn die sollen nicht nur die Proteste der Gelbwesten angefeuert haben, sondern auch die gegen den Migrationspakt. Der Glaube, an die Macht von Bots hat dabei fast schon etwas von Tech-Voodoo: Einfach bei Vollmond ein paar Bots basteln und fertig ist die Revolte. Bei einem der bekanntesten und größten der rechten Twitter-Bots, liest sich das dann so:

 

NEW VIDEO by Hagen Grell: Kein Witz! UN Migrationspakt aus #Merkels Feder? – Bystron (#AfD)

NEW VIDEO by Red Ice TV: Global Compact for #Migration Impact on Finland – Impivaara

NEW VIDEO by Martin Sellner (German): Wie man Straßburg verhindern kann – Ein Rezept

Langweiliger geht’s eigentlich kaum. Aber natürlich: Social Bots verbreiten politische Botschaften und sie tun das mit einer Ausdauer, die die nicht mal der hartgesottenste menschliche Troll aufbringen kann. Sie essen nicht, sie schlafen nicht, sie müssen nicht aufs Klo. Doch andererseits: Sie antworten auch nicht oder nur ziemlich wirr und sind oft leicht zu erkennen, entweder mit gesundem Menschenverstand oder mit speziellen Tools. Richtig viele Follower haben sie auch nur in seltensten Fällen. Mag sein, dass, künstliche Intelligenz irgendwann zu raffinierteren Bots führen wird, die man von Menschen dann gar nicht mehr unterscheiden kann, aber so weit sind wir noch lange nicht. Einfluss auf Debatten nehmen immer noch vor allem Menschen, auch wenn diese Menschen vielleicht in irgendwelchen Trollfabriken sitzen, wo sie Tag ein Tag aus im Accord twittern, retweeten, mit Sockenpuppen-Accounts herumjonglieren und versuchen Debatten zu beeinflussen. Vor einem Jahr kam beispielsweise heraus, dass der Twitter-Promi Jenna Abrams gar keine Frau war, also eine echte Frau aus Fleisch und Blut, sondern ein Fake-Profil – betrieben von einer Petersburger Trollfabrik. Trotzdem folgten ihr 70.000 Menschen und trotzdem wurden ihre Tweets von namhaften Medien zitiert und von Trump-Mitarbeitern weiterverbreitet.

Ein Bot hat keine Angst, dass am Ende des Monats das Geld nicht reicht

Jenna Abrams war Fake, die Wut der französischen Gelbwesten ist es nicht. Das zeigen nicht zuletzt die zahlreichen Wut-Selfies, die durch die sozialen Medien schwappen, das zeigt aber auch einer der Slogans der Bewegung, der viral gegangenen ist, nämlich: „Sie reden vom Ende der Welt, aber wir, wir reden vom Ende des Monats“. Ein Bot hat keine Angst, dass am Ende des Monats das Geld nicht reicht, ein Mensch schon, eben deswegen braucht es auch keine Bots, die einen solchen Satz verbreiten. „Back to real life!“ will man da fast schon den Politikern zurufen, die sich überbieten mit Forderungen nach Anti-Bot-Maßnahmen, obwohl sie doch gar keine Anti-Bot-Maßnahmen fordern müssten, wenn sie mit derselben Inbrunst Anti-Armuts-Maßnahmen fordern würden. Macron hat das hoffentlich verstanden.