„We don’t know how the human brain works.“ Mit diesem Satz macht Patrick Breitenbach auf einen Artikel aufmerksam, der sich mit den Thesen von Kurzweil beschäftigt: „Why Ray Kurzweil is Wrong: Computers Won’t Be Smarter Than Us Anytime Soon“.

Es sind letztlich völlig überdrehte, anmaßende und werbegetriebene Thesen, die man mit Big Data, Künstliche Intelligenz und Neurowissenschaften verbindet. Das wirkt sich vielleicht positiv auf den Verkauf von Büchern über das Ende des Zufalls aus oder über Neuro-Leadership, Neuro-Marketing und Maschinen-Intelligenz. Es ist auch eine beliebte Methode, um milliardenschwere Forschungsbudgets und Beratungsaufträge zu kapern, wie beim Human Brain Project. Beim öffentlichen Diskurs sollte man die wirtschaftlichen Interessen dieser Akteure nicht aus den Augen verlieren. Siehe dazu auch: „Die große Neuro-Show – Was wurde aus den Verheißungen der Hirnforschung? Wissenschaftler ziehen Bilanz. Sie fällt dürftig aus“.

Die Systeme können nur das, was Menschen programmiert haben und daraus ableiten. Es sind hoch manipulative, konstruierte und erfundene Welten, die immer zu richtigen Ergebnissen kommen. Richtig im Sinne des Erfinders, Konstrukteurs, System-Ingenieurs, Mathematikers, Software-Entwicklers, Hirnforschers oder KI-Wissenschaftlers: Die Logik sei nur ein Beschreibungsapparat, so wie die Grammatik für Sprache, sagt Systemtheoretiker Heinz von Foerster im Fernsehinterview mit Lutz Dammbeck.

„Die Logik ist ja nur eine Maschine, um mit gewissen Aussagen gewisse andere Aussagen machen und entwickeln zu können. Der Übergang von A nach B, das ist, was die Logik kontrolliert….also die Logik bringt ja gar nichts Neues….die Logik macht es nur möglich, dass Sie von einem Satz, der etwas verschwommen ist, etwas ableiten können, oder Sätze, die ähnlich verschwommen sind, ordentlich beweisen können.“ In diesen weltweit funktionierenden Maschinensystemen seien alle Aussagen richtig – im Sinne der Ableitungen.

Wenn sich auf diesem wackligen Fundament die Big Data-Neuroklecks-KI-Hohepriester aufschwingen, das Leben anderer Menschen zu beeinflussen, zu kontrollieren, zu steuern und zu bestimmen, müssen sie ihre Ableitungen offenlegen. An diesem Punkt stimme ich FAZ-Herausgeber Frank Schirrmacher zu, der fordert, dass die offene Gesellschaft neue Freunde braucht.

Er beschreibt in seinem FAZ-Leitartikel den Fall einer Amazon-Lageristin in Allentown, die nach mehreren 11-Stunden-Arbeitstagen eine automatisierte SMS des „employee-tagging“- Systems bekam. Botschaft: Sie sei „mehrere Minuten“ unproduktiv gewesen und wurde kurz darauf gefeuert. Droht hier ein neuer Optimierungswahn, der in den Pionierzeiten des Industriekapitalismus von Henry Ford etabliert wurde?

„Die Erkenntnis, dass die IT-Industrie Teil der wohl bedeutendsten gesellschaftlichen Debatte sein muss, nimmt auch die jetzt beginnende Cebit ernst, die weltgrößte Computermesse. Unter dem Titel ‚Datability‘ – dem ’nachhaltigen‘ Umgang mit Daten – will sie sich, aufgeschreckt vor allem durch die Snowden-Enthüllungen, an einem Diskurs beteiligen, der sich den Chancen und den Risiken der digitalen Moderne widmet. Schon das ist ein Fortschritt. Es signalisiert, dass die Branche verstanden hat, dass die Zeiten vorbei sind, in denen technische Geräte die entsprechenden Sozialtechniken gleichsam mitproduzieren und einfordern – unter Ausschaltung jeder politischen Willensbildung“, schreibt Schirrmacher.

Das sei eine politische Aufgabe, keine technologische. „Anders gesagt: man kann die Festlegung gesellschaftlicher und politischer Normen nicht einer Mathematik überlassen, die systematisch Kausalitäten und Korrelationen erzeugt, deren Effekte wir spüren, aber deren Zustandekommen wir nicht nachvollziehen können.“

Diesen Satz sollten sich die Richter des Bundesgerichtshofs hinter die Ohren kleben. Stichwort: Schufa-Urteil.

Wer eine falsche Stromrechnung bekomme, der rechnet nach. Wer eine falsche Rechnung über seine Lebens- und Karrierechancen, seine Talente, seine Effizienz und Kondition, seine Gesundheitsprognose oder seine Kreditwürdigkeit bekommt, der könne nur noch glauben.

„Heute gelten die Algorithmen, die beispielsweise die Reputation oder Kreditwürdigkeit von Menschen berechnen, als Geschäftsgeheimnis“, so Schirrmacher.

Wer nicht nur Stauwarnungen ausspricht, sondern auch das Wohl und Wehe von einzelnen Menschen beeinträchtigt und zu Open Data nicht bereit ist, sollte Big Data nicht anwenden dürfen. Die Entwickler von diesen Systemen werden ohne politische Regeln dazu nicht freiwillig bereit sein, wie mir ein Informatiker klar zu verstehen gab. Er habe eine Software für Kliniken entwickelt, um „gute“ von „schlechten“ Patienten zu trennen. Das Auswertungstool soll aufzeigen, wo Ärzte Geld verballern. Und was ist mit den Patienten, fragte ich nach. Müsste so etwas nicht öffentlich verhandelt werden? Antwort: Offenlegungspflichten sieht er nur gegenüber seinen Auftraggebern. Wenn dieser Mann dazu nicht bereit ist, muss er mit rechtsstaatlichen Mitteln dazu gezwungen werden, wenn die betroffenen Patienten es verlangen.

Siehe auch die Rede von Google-Manager Eric Schmidt auf der Tech-Konferenz SXSW und sein merkwürdiges Verständnis von Selbstzensur.

Entlarvung der Neo-Kybernetiker.

Liebwerteste Gichtlinge der Internet-Konzerne, wo bleibt der ehrliche Datenpakt mit der Netzgesellschaft?