Menü

Big Brother Awards 2019: Von faustischen Pakten und Seriensiegern

Das Bundesland Hessen erhält seinen zweiten Big Brother Award in Folge. Zeit Online, Gen- und Stimmanalyse-Datenkraken bekommen ebenfalls den Negativpreis.

Lesezeit: 5 Min.
In Pocket speichern
vorlesen Druckansicht Kommentare lesen 39 Beiträge

Illustration Datenkrake

(Bild: Heiko Sakurai )

Update
Von

Zu dieser Stunde werden im Bielefelder Stadttheater die Big Brother Awards 2019 verliehen. Die traditionsreiche Gala wartet mit einer Reihe von Überraschungen auf. Erstmals wird über den Preis schon im Vorfeld der Veranstaltung diskutiert, weil ein Preisträger sich mit der Auszeichnung des Datenkraken-Oscars ungerecht beurteilt fühlt. Erstmals gibt es einen Sieger, der schon im letzten Jahr den Negativ-Preis bekam und erstmals fehlen Preisträger in den populären Kategorien "Politik", "Lebenswerk" und "Arbeitswelt". Gefeiert wird dafür diesmal an einem ganz besonderen Tag: Heute vor 70 Jahren erschien in London George Orwells "Nineteen Eighty-Four", bei uns unter dem Titel 1984 bekannt. Schlagartig war "Big Brother" in aller Munde.

Wer nicht den Weg nach Bielefeld gefunden hat, sich aber die Spannung erhalten möchte, kann die Bekanntgabe der Preisträger im Stream verfolgen und sehen, ob sich die Preisträger dem Publikum stellen. Zumindest in einem Fall dürfte dies passieren: Einen faustischen Pakt mit Google, dem größten Datenkraken der Welt, soll das Internet-Angebot Zeit Online geschlossen haben. Dafür bekommen Redaktion und Verlag den Big Brother Award in der Kategorie "Verbraucherschutz". Die Redaktion bestreitet dies vehement und veröffentlichte daher im Vorfeld unter Missachtung der Sperrfrist im Blog Glashaus ihre Sicht der Dinge zusammen mit der Kurzbegründung der Jury.

"Erstens für Werbetracker und den Facebook-Pixel. Zweitens für die Nutzung von Google-Diensten beim Projekt „Deutschland spricht“. Damit werden politische Ansichten von Menschen auf Servern in den USA gespeichert. Drittens dafür, dass sie sich das Nebenprojekt von „Deutschland spricht“ von Google haben finanzieren lassen. Dieser faustische Pakt mit einer der größten Datenkraken beschädigt die journalistische Unabhängigkeit.

An dieser Darstellung moniert Zeit Online, dass eigentlich nur der erste Satz korrekt ist, weil man als kommerzieller journalistischer Verlag wie alle Verlagshäuser Werbetracker einsetzt. Absolut unzutreffend sei, dass bei dem Projekt Deutschland spricht, das mit Bundespräsident Steinmeier einen prominenten Schirmherrn hat, politische Ansichten von Menschen auf Servern in den USA gespeichert werden. Gelder vom Datenkraken Google seien auch nur zur Anschubfinanzierung des Projektes My Country Talks geflossen, das die Software für "Deutschland spricht" entwickelt. Inzwischen würden sich zahlreiche Medienpartner am Projekt beteiligen. Zudem seien Apps von Google nur in der Anfangsphase genutzt worden: "Einen faustischen Pakt gibt es nicht, unsere Seele gehört uns." Die Debatte über den Preis in der Kategorie "Verbraucherschutz" dürfte auch nach der Preis-Gala weiterlaufen.

Im letzten Jahr hatte das schwarz-grün regierte Bundesland Hessen einen Big Brother Award für den Hessentrojaner kassiert, in diesem Jahr "siegte" es mit Hessendata in der Kategorie "Behörden und Verwaltung". Die von der Firma Palantir gelieferte und adaptierte Software unterstützt eine vorausschauende Polizeiarbeit durch die Zusammenführung höchst unterschiedlicher Datenquellen. Vom Land Hessen wurde die Software nach offiziellen Angaben für einen symbolischen Cent gekauft, ohne Mehrwertsteuer. Gegenüber Spiegel Online räumte das hessische Innenministerium ein, dass der tatsächliche Kaufpreis aus gründen des öffentlichen Sicherheitsinteresses nicht genannt werden wollte. Palantir erzeugt neben Hinweisen auf terroristische Tätergruppen vor allem Schulungskosten, gilt aber als großer Hoffnungsträger der künftigen Polizei-IT-Landschaft. Die Suche nach Gefährdern ist juristisch umstritten. Nicht nur das Zusammenspeichern von polizeilichen Daten und Daten aus den sozialen Netzwerken war für die Jury ein strafpreiswürdiges Vorgehen, sondern auch die Tatsache, dass Palantir-Mitarbeiter zu Servicezwecken Zugriff auf das Netzwerk der hessischen Polizei haben. Als US-Firma unterliegt Palantir dem FISA-Act und kann damit gezwungen werden, Informationen an die US-Geheimdienste weiterzuleiten. Der Firma selbst dürfte der Negativ-Preis für Hessendata egal sein, hat sie doch gerade eine Schlappe in den USA erlitten. Dort haben 140 Akademiker gegen Palantir als Sponsor der rennomierten "Privacy Law Scholars Conference" der Datenschützer erfolgreich protestiert. Der Grund: Palantir-Software wird von der Immigrationsbehörde ICE dafür eingesetzt, um bei Immigranten an der Südgrenze der USA die Kinder von den Eltern zu trennen.

In der neuen Kategorie "Biotechnik" haben die Big Brother Awards einen Datenkraken geehrt, der sich auf die Familienzusammenführung spezialisiert hat. Im Dezember 2018 warnte der Datenschutzexperte Thilo Weichert vor den unzureichenden Datenschutzbestimmungen von Ancestry. Das auf Familienstammbäume spezialisierte Unternehmen bietet neben der Suche in Passagierlisten oder Kirchenbüchern gegen Aufpreis eine Gendatenanalyse an, damit die biogeografische Herkunft (PDF-Datei) einer Person ermittelt werden kann. Die Ergebnisse einer solchen genetischen Analyse werden in einem Ancestry-Konto gespeichert und können dann mit anderen Analysen verglichen werden. Die Form der Verbraucher-Genetik dürfte nicht für einen (heimlichen) Vaterschaftstest ausreichen, doch werden damit von Ancestry munter weitere Geschäftsmodelle entwickelt, etwa die Ermittlung des ethnisch passenden Musikgeschmackes zu einer Speichelprobe. Neben der Firma Ancestry, die aus der Ahnenforschung herkommend in die Gen-Analyse eingestiegen ist, gibt es noch Firmen wie 23andme oder deCODEme, die sich ausschließlich mit Gentests beschäftigen, aber ebenfalls unklare Datenschutzbestimmungen aufweisen. Bekannt ist, dass 23andme seine Gendaten auch an pharmazeutische Unternehmen verkauft, die neue Medikamente entwickeln. Im Fall von Ancestry kommt nach Meinung der Big Brother-Jury erschwerend hinzu, dass die Firma keine, auch keine humangenetische, Beratung anbietet, wie sie nach dem deutschen Gendiagnostikgesetz vorgeschrieben ist. "Die deutschen Datenschutz- und Aufklärungspflichten werden aber von Ancestry aus Profitinteresse bewusst ignoriert. Wir sehen hier einen Trend: Nach der Ausbeutung von Internetdaten wird die Ausbeutung von Gendaten das nächste ganz große Ding", heißt es in der Preisbegründung.

Auch die Aachener Firma Precire könnte in der Kategorie "Biotechnik" antreten, bietet sie doch eine Stimmanalyse an, die die Charakterzüge einer Person heraushören kann. Dies hat die Journalistin Eva Wolfangel von den Riffreportern für Technology Review herausgefunden und untersucht. 15 Minuten muss man mit dem Sprachcomputer sprechen, dann kann Precire sagen, welchen Charakter eine Bewerberin oder ein Bewerber hat, ob er oder sie belastbar ist.

Die Software wird von großen Firmen wie RWE oder der Fraport AG verwendet, um den Eindruck zu vertiefen, den jemand in einem Vorstellungsgespräch hinterlässt. Sie wertet dabei die Tonhöhe aus, die verwendeten Wörter und die Lautstärke und vergleicht das Gesprochene mit den Daten von 5000 Personen, deren Sprechweise gespeichert und deren Charakter ermittelt wurde. Die Referenzdaten sind auch in Callcentern wichtig: Hier soll die Software herausfinden, ob ein Anrufer verärgert ist, bei der Meldung eines Versicherungsschadens lügt oder in der richtigen Stimmung ist, um ihm ein tolles Angebot aufschwatzen zu können. Als Sieger in der Kategorie "Kommunikation" gehört Precire zu den Angeboten, die sich mit dem Allerweltsfüllwort "künstliche Intelligenz" schmücken. So heißt es auf einer mittlerweile verschwundenen Website von Precire "PRECIRE – als Sprachanalyse-Software – ist grundsätzlich ein selbstlernendes System („Künstliche Intelligenz“) zur Erkennung psychologischer Muster auf hochdimensionalen Ebenen. PRECIRE ist somit prinzipiell in der Lage psychologische Muster in jeder Form von Text oder Audio zu erkennen. Ob der Algorithmus wirklich funktioniert, ist wissenschaftlich sehr umstritten.

Was bleibt, ist der Wunsch der Jury, dass solche Programme durch den Gesetzgeber verboten werden: "Emotions- und Motivationserkennung per Sprachanalyse ist gefährlich, denn sie kann ohne unser Wissen irgendwo im Hintergrund passieren, wann immer wir sprechen. Diese Art der Sprachanalyse ist geradezu darauf angelegt, uns zu übervorteilen. So werden die einzelnen Menschen immer ohnmächtiger und unangreifbare Macht wandert immer mehr zu großen Konzernen, Versicherungen, Banken und staatlichen Stellen, die Zugriff auf unsere Daten und solche Technologie haben. Deshalb fordern wir den Gesetzgeber auf: Die Anwendung von Sprachanalyse und „künstlicher Intelligenz“ zur Charakter-, Emotions- und Motivationserkennung muss verboten werden!

Von jeher interessiert im Heiseversum, wer den Big Brother Award in der Kategorie "Technik" erhält. Große Namen wie Microsoft (mit Windows 10, 2018) oder Mattel (mit Hello Barbie, 2015) konnten hier schon punkten. Im Jahr 2019 ist es eine Organisation, die außerhalb der IT-Branche wohl niemanden interessiert: Geehrt wird das "Technical Committee CYBER" des Europäischen Instituts für Telekommunikationsnormen (ETSI) für den europäischen Abhörstandard eTLS. Auch wenn die verkrüppelte Version der Verschlüsselung TLS 1.3 bei uns nach den Empfehlungen des Bundesamtes für Sicherheit in der Informationstechnik (BSI) nicht zum Einsatz kommt, hat sich das ETSI mit eTLS nach Ansicht der Jury redlich einen Preis verdient. Dies vor allem deswegen, weil staatliche Stellen anderer Regierungen Server-Betreiber verpflichten können, bei der Nutzung von eTLS einen festen Schlüssel zu nutzen "und diesen herauszurücken, um damit sämtliche Kommunikation mit Internetseiten im Nachhinein entschlüsseln zu können," so die Jury in ihrer Begründung. Sie rät wie das BSI allen Entwicklern und technisch Verantwortlichen, eTLS nicht zu nutzen "und das deutlich sicherere TLS 1.3-Protokoll zu verwenden. Fatalerweise haben technisch nicht versierte Nutzerinnen und Nutzer kaum eine Möglichkeit, darauf Einfluss zu nehmen. Da können wir nur ironisch „Danke für gar nichts“ sagen."

Da nicht für, können wir im besten Norddeutsch antworten und bedanken uns bei Digitalcourage, Jahr für Jahr mit dem Big Brother Award auf Datenmissbräuche hinzuweisen. Das hätte auch Orwell gefallen, dessen Buch heute vor 70 Jahren erschien. 70 Jahre später wird das Treiben des Großen Bruders als frühe Satire auf die künstliche Intelligenz gesehen. War nicht der Versificator eine frühe Variante von Precire?

[Update 09.06.2019; 15:28 Uhr]
Die Informationen zum Kaufpreis von Palantir wurden im Artikel aktualisiert. (bme)