Wie unschuldig sind Algorithmen? #D2030 #FutureHubs @FuturICT

Sind Algorithmen unschuldig und neutral, fragen sich Anna-Verena Nosthoff und Felix Maschewski in einem Gastbeitrag für die NZZ und zitieren Mark Zuckerberg, der bei der Debatte über die Verbreitung von Fake News erklärte, es sei schlicht „verrückt“ anzunehmen, seine Firma Facebook habe die US-Wahl beeinflusst, sie stelle nur eine „neutrale Plattform“ dar:

„Auch der CEO der britischen Datenfirma Cambridge Analytica (CA), Alexander Nix, betont die Vorurteilslosigkeit der Technik – zuletzt in seinem Vortrag ‚From Mad Men to Math Men'“, schreiben die Autoren.

Erwähnt wird die These der Mathematikerin Cathy O’Neil: Algorithmen seien „in Code eingebettete Meinungen“. Sie repräsentierten die Werte ihrer Programmierer, operierten per se nicht neutral, würden daher häufig Vorurteile reproduzieren – schliesslich werden die ‚Problemlöser‘ selbst zum Problem.

Ähnlich sieht es der KI-Experte Stefan Holtel.

„Nicht die Algorithmen werden in der KI zu vielen Problemen führen, sondern die Vorurteile, die in den Daten stecken.“

Also Vorurteile, die wir alle in die Daten stecken.

Wenn auf dieser Basis die KI-Systeme ihre unermüdliche Arbeit aufnehmen und Entscheidungen vorbereiten oder sogar selbst treffen, kommt ziemlicher Mist dabei heraus. Kunden, die keinen Kredit mehr bekommen, Versicherte, die Prämienerhöhungen hinnehmen müssen oder gar Netzaktivisten, die als potenzielle Störenfriede der Gesellschaft aussortiert werden. Fast alle Daten, die von Black Box-Maschinen verarbeitet werden, sind von Menschen annotiert worden.

„Wir reichern vermeintlich objektive Daten mit unseren Weltmodellen an. Das wird von keinem Algorithmus hinterfragt“, so Holtel.

Konsequenz: Es fällt uns immer schwerer, die Richtigkeit von Datenberechnungen zu erkennen. Das Ganze ist sogar ein paradiesisches Feld für Trickser, Agitatoren, Autokraten und Machtgierige, sich hinter den Ergebnissen der KI-Maschine zu verstecken und die schmutzigen Entscheidungen auf die Algorithmen zu schieben. Etwa beim Scoring aller Bürgerinnen und Bürger in China. Die Führung der Kommunistischen Partei in Peking installiert „korrekte“ Maschinen als Hausmeister für politische Hygiene. Sozusagen eine Beseelung von toten Apparaten: KI-Maschinen sind wie wir, nur perfekter und unfehlbarer. Der manipulierende Maschinist bleibt dabei unerkannt. Die Drecksarbeit übernehmen Algorithmen – vergleichbar mit der unsauberen Arbeit von Consulting-Firmen, die als Alibi für den Rausschmiss von Mitarbeitern in Unternehmen engagiert werden.

„Wir müssen unser Konzept von Vertrauen in Maschinen überdenken und neu bewerten. Das ist keine technische Frage, sondern eine techniksoziologische und gesellschaftliche, die keine objektive Antwort haben wird, sondern in einem normativen Diskurs entwickelt werden muss“, fordert Holtel.

Sonst entsteht so eine Art Maschinen-Paternalismus. Vergleichbar mit der Einführung der Tabellen-Kalkulation.

„Wie haben uns den Ergebnissen ausgeliefert, die von Excel und Co. ausgespuckt werden. Dabei gibt es eine Vielzahl von Studien, die die Fehlerhaftigkeit von Excel-Tabellen belegen. Wenn wir die einfache Konstruktion einer Tabelle schon nicht verstehen oder kritiklos darauf reagieren, werden wir erst recht nicht verstehen, was in der Interaktion mit Algorithmen abgeht“, mahnt Holtel.

Das berühmteste Beispiel ist das Excel-Chaos der Harvard-Ökonomen Carmen Reinhart und Kenneth Rogoff, die ein Optimum für die Höhe von Staatsschulden als finanzpolitischen Leitfaden den Staatsregierungen ins Ohr gemauschelt haben. Es sei ein großer Fehler, den Maschinen Fähigkeiten wie Rationalität und Unfehlbarkeit zuzuschreiben, bemerkt Holtel:

„Das speist sich aus unseren täglichen Erfahrungen. Niemand rechnet Excel-Tabellen nach. 2007 gab es im Intel-Prozessor einen Hardware-Fehler, der dazu führte, dass Excel falsch rechnete. Es gibt diese systemischen Fehler sehr häufig, aber Menschen sind kaum in der Lage, diese Risiken einzuschätzen.“

Der Diskurs über Künstliche Intelligenz müsse differenzierter geführt werden.

„Wir sollten durch Aufklärung oder Machteliten-Hacking Verantwortung übernehmen, um diesen Diskurs adäquat zu begleiten“, resümiert Holtel.

Auf der Berliner D2030 Zukunftskonferenz am 6. und 7. Juli wird dieser Aspekt sicherlich zur Sprache kommen.

Siehe auch: Sozialingenieure und ihre Steuerungsinstrumente für eine „wohlwollende“ Diktatur

@DirkHelbing über Datendiktatur oder Mitmachgesellschaft?

Facebook und die staatlichen Datenschützer im Schafspelz

Facebook

Wenn Facebook und Google an den Schrauben ihrer Allgemeinen Geschäftsbedingungen drehen, spielt sich in Deutschland immer wieder das gleiche Szenario ab. Parlamentarier und Minister stürzen sich mit Verve auf die bösen Buben im Silicon Valley und beklagen die Demontage der Privatheit für die schnöden kommerziellen Interessen der amerikanischen Internet-Konzerne. Nun will ich die Friss-oder-Stirb-Politik von Facebook und Co. nicht rechtfertigen. Ich habe mich schon mehrfach an dieser Stelle über die Geschäftspolitik der Plattform-Betreiber aufgeregt und kritisiert, dass man als User keine Möglichkeiten der Zustimmung oder Ablehnung hat, ohne die Plattform zu verlassen. Mir würde ja schon die Möglichkeit des Widerspruchs ausreichen.

Das wirkliche Problem aber sind die selbsternannten staatlichen Datenschützer und Politiker, die mit dem Finger auf Facebook zeigen und im gleichen Atemzug die Massenspionage der Geheimdienste zulassen und somit den letzten Rest an Privatheit aushöhlen. Staatliche Institutionen agieren als Wolf im Datenschutz-Schafspelz.

Das hat Dirk von Gehlen in einem sehr lesenswerten Beitrag auf den Punkt gebracht:

„Anstatt digitale Ressentiments zu bedienen und die Sammelwut von Facebook zu thematisieren, sollte man sich endlich mit den Organisationen befassen, die ihre Machenschaften nicht mal in absurden AGB festhalten. Edward Snowden hat der Welt vor Augen geführt, dass die Frage des Datensammelns und der anlasslosen Überwachung des Einzelnen eine politische Antwort verlangt und keine Ratschläge für die Nutzung eines Facebook-Accounts.“

Den staatlichen Totalüberwachern kann man nicht entgehen, noch nicht einmal durch digitale Enthaltsamkeit, die von Pädagogen so häufig eingefordert wird:

„Snowden hat offengelegt: Wer Briefe schreibt oder telefoniert, ist von geheimdienstlicher Überwachung ebenso betroffen wie ein gedankenloser Facebook-Nutzer. Das Abgreifen digitaler Daten aus Briefsortierzentren ist ebenso ein Bruch des Fernmeldegeheimnis wie das Ausforschen privater Internet-Kommunikation“, schreibt von Gehlen.

Was vom Bundesjustiziminister, vom Bundesinnenminister und von Datenschützern wie Weichert zelebriert wird, sind Scheingefecht und Ablenkungsmanöver.

„Während Facebook seine AGB verändert und damit Abmelde-Ratschläge heraufbeschwört, treffen sich die europäischen Innenminister in Lettland, um eine Neuauflage der Vorratsdatenspeicherung zu diskutieren. Wenige Tage zuvor hat sich der deutsche Innenminister Forderungen aus Großbritannien und den USA angeschlossen, Behörden das Recht einzuräumen, verschlüsselte Kommunikation mitzulesen“, so von Gehlen.

Das ist Datenschutz mit Nebelkerzen – mehr nicht.

Die Propaganda der Sicherheitsgichtlinge

Sicherheitsgichtlinge

Die Rabulistik der Vertreter eines sicheren und starken Staates ist immer gleich. Und es sind die üblichen Verdächtigen, die jedes Ereignis nutzen, um für mehr Kontrollen und Überwachung zu plädieren. In der Regel kommen sie aus der CSU und meistens heißen sie Uhl, Herrmann und Friedrich. Terroranschläge wie in Boston sind widerlich und für die betroffenen Menschen grausam. Offene Gesellschaften sind angreifbar und verletzlich. Aber es sind singuläre Ereignisse, die nicht für eine Demontage von Freiheitsrechten instrumentalisiert werden sollten.

Politisch funktioniert das in Deutschland leider wie ein Uhrwerk – demoskopisch ist das sehr gut erforscht. Je dramatischer die Sicherheitslage dargestellt wird, desto einfacher ist es möglich, unter Berufung auf die Sicherheit einen großen Teil der Bevölkerung von der Notwendigkeit massiver Eingriffe in die Freiheitsrechte des Einzelnen zu überzeugen. Allensbach hat folgende Frage gestellt: „Einmal unabhängig davon, ob das tatsächlich verboten ist oder nicht: Was meinen Sie, was sollte der Staat in jedem Fall verbieten, wo muss der Staat die Menschen vor sich selbst schützen?“

Rund 60 bis 80 Prozent nennen eine ganze Latte an Verboten, die weiter gehen als derzeit vom Gesetzgeber gewünscht. Selbst vom Grundgesetz garantierte elementare Grundrechte werden dann infrage gestellt, sobald der Eindruck entsteht, dass ihre Einschränkung der Verwirklichung größerer Sicherheit dienen könnte. Genau diese Instinkte bedienen die politischen Sicherheitsgichtlinge.

Die Adepten des Schnüffelstaates, des Schutzes und der totalen Fürsorge bedienen sich aus der semantischen Trickkiste von Thomas Hobbes: Der Mensch ist per se böse und gefährlich. Und Gefährlichkeit impliziert Herrschaftsbedürftigkeit. Freiheit kann es nicht ohne Risiko geben, stellte hingegen Max Weber fest.

Wer Freiheit vom Risiko verspricht, betreibt einen Kult der Sicherheit. Doch wer frei von Risiko leben will, gewinnt keine Sicherheit, sondern opfert seine Freiheit.

Siehe auch:

Die Widerwärtigkeit des Hans-Peter Uhl.

Bestandsdatenauskunft: Bundesrat-Innenausschuss empfiehlt Zustimmung zu Vorratsdatenspeicherung durch die Hintertür.

Anschlag in Boston: FBI hatte Tamerlan Zarnajew schon 2011 im Visier.

Innenminister Friedrich für mehr Videoüberwachung in Deutschland.

Bomber der Nation: Wer schützt unsere Privatsphäre?

„Persönliche Daten werden immer mehr zu einer Handelsware, an der private Unternehmen mehr Interesse haben, als der Staat.“

Dieses Bekenntnis des Hamburger Datenschützers Johannes Caspar im Vorfeld der Call Center World in Berlin sollte man dringend in die Märchensammlung der Gebrüder Grimm aufnehmen und einen Ehrenplatz einräumen. Warum? Es liegt an einer Zahl, die in den vergangenen Tagen durch Blogs geisterte und die Malte Welding ausgeschrieben hat, damit sie besser im Gedächtnis bleibt: „Siebenunddreißig Millionen Zweihundertzweiundneunzigtausend und Achthundertzweiundsechzig. So viele Mails haben deutsche Geheimdienste überprüft, weil in ihnen Schlüsselbegriffe wie ‚Bombe‘ aufgetaucht sind.“

Gerd Müller und seine Fans wären in seinen Glanzzeiten in arge Schwierigkeiten mit den Schlapphüten geraten: War er doch der Bomber der Nation. Was ist mit Publizisten, die eine Bombe zum Platzen bringen? Oder Liebhaber kalter Nachspeisen, die Rezepte für Eisbomben austauschen?

Egal. Die stehen alle unter Generalverdacht. Das zählt doch sowieso zu den Lieblingsbeschäftigungen deutscher Politiker und Überwachungsbeamte. Im Zweifel ist jeder ein Täter. Ob als Konsument von Kinderpornografie, Terrorist, Kiffer, Steuersünder oder, oder, oder.

Schade nur, dass so wenige Schwerstkriminelle ins Netz gehen. Wie soll man eigentlich die ganzen Investitionen in Überwachungstechnik rechtfertigen? Gut nur, dass es beim Einkauf des Staates eben Sonderformen des Vergaberechts gibt, die einer strengen Geheimhaltung unterliegen. Da können Aufträge freihändig vergeben werden und keine Sau schert sich darum. Es wird von Sicherheitsbehörden das Feinste vom Feinen an Überwachungstechnologie gekauft und Aufträge für Schnüffelsoftware vergeben, ohne sich in der Öffentlichkeit rechtfertigen zu müssen. Die Etats kann man in den Haushaltsplänen nur erahnen – mehr nicht. Und was leisten die Schlapphüte mit den teuren Spy-Toys?

213 Schwerkriminelle geschnappt

„Unter den 37 Millionen abgefangenen Mails 2010 waren immerhin 213 Personen, die bei ihrer Steuererklärung gemogelt, Marihuana geraucht oder ihre Strafzettel nicht bezahlt haben. Soll noch einer sagen, Rasterfahndung liefere keine Ergebnisse. Bei so vielen Treffern können schon mal ein paar Neonazis durch die Lappen gehen. Haben vermutlich vergessen, das Wort ‚Bombe‘ in den Betreff ihrer Mails zu schreiben, diese alten Schlawiner! 😉 Vielleicht solltet Ihr einfach noch mehr Handys anzapfen, Wohnräume überwachen und E-Mails abfangen. Gut, dass Deutschland nur 80 Millionen Einwohner hat. Das schränkt den Kreis der Verdächtigen erheblich ein“, schreibt der Blogger Richard Gutjahr.

Und was kommt von den staatlichen Datenschützern? Sie machen eher Jagd auf Trackingsoftware und Cookies. Schwallen herum über den Ausverkauf von Daten, die für das Direktmarketing eingesetzt werden könnten. Wer weiß, nach welchen Schlüsselbegriffen die Web-Agenturen fahnden in meinem E-Mail-Verkehr, meinen Blogpostings, Gefällt mir-Bekenntnissen und sonstigen Vorlieben, die ich in meinem Profil preisgebe? Werde ich verdächtig, wenn ich in Foren über Schuco-Autos schreibe oder meine Vorlieben für die seelischen Abgründe bekunde, die von Autoren der phantastischen Literatur zu Papier gebracht wurden? Es könnte ja sein, dass irgendwelche Geheimorden von Facebook mir unsittliche Angebote machen, um beispielsweise das Gesamtwerk des leider viel zu unbekannten Schriftstellers Paul Scheerbart zu erwerben. Ein Blick in meine Bibliothek blieb allerdings Mark Zuckerberg bislang verwehrt, um erkennen zu können, welche Buchausgaben des kosmischen Schwadroneurs in meiner Sammlung noch fehlen. Sollte es ihm gelingen, in die Überwachungsprogramme der Staatstrojaner einzudringen, wäre hier sicherlich noch mehr möglich. Wer zerstört nun mehr die Privatsphäre? Zucki-Boy oder der Staat?

Mehr morgen in meiner Montagskolumne für das Debattenmagazin „The European“.

Siehe auch:

Polizei lässt stille SMS von privater Firma versenden.

Die Suche nach „Bombe“ wird zum Kampf mit Spam.

Elektronischer Staubsauger unterwandert Grundrecht.

Eine Bombennummer!

Update: Hier nun meine The European-Montagskolumne.

Ich frage, der Bundesinnenminister antwortet….nicht ganz auf meine Fragen

Das Frageportal zum Thema „Digitalisierung von Stadt und Land – Chancen und Grenzen von öffentlichen und privaten Geodatendiensten“ des Bundesinnenministeriums ist abgeschlossen. Zahlreiche Fragen haben das Ministerium erreicht. Die Bürgerinnen und Bürger hatten anschließend die Möglichkeit für die Frage zu stimmen, die der Minister am dringlichsten beantworten soll.

Drei Fragen haben das Rennen gemacht – meine Frage landete wohl auf dem ersten Platz: Der Minister hat diese Fragen in einer Videobotschaft beantwortet. Und ich habe das natürlich direkt wieder aufgegriffen und antworte dem Innenminister auf seine Antworten:

Da gibt es also noch Klärungsbedarf, Herr Minister. Oder wie es Bertolt Brecht formulierte: “Wir stehen selbst enttäuscht und sehn betroffen / Den Vorhang zu und alle Fragen offen.” Die Stadt Bonn hat mir übrigens noch nicht geantwortet auf die konkreten Anwendungsfelder der Behörden.