Paradoxe Interventionen gegen staatliche und private Datenkraken @digitalnaiv @winfriedfelser

Wenn Big Data-Algorithmen ohne meine Zustimmung anfangen, mich zu klassifizieren und zu stigmatisieren, automatisch meine Bonität herabstufen, einen Wechsel der Krankenversicherung wegen meines vermeintlich exakt berechneten Gesundheitszustandes verhindern oder Personalberatern die Abweisung meiner Stellenbewerbung empfehlen, dürfte es zu heftigen Gegenreaktionen der Netzgesellschaft kommen. Das schrieb ich vor einigen Jahren für ein längeres Big Data-Stück: „Das wird noch eine Weile beobachtet und irgendwann reagiert die Gesellschaft“, meint der Systemtheoretiker Gerhard Wohland. Es folgen Störungen des Systems, die bis zu Boykott und Ausstieg reichen können. 

Trotzdem versuchen die Datenkraken, unser Handeln zu beeinflussen oder sogar zu steuern. Wenn Menschen das durchschauen, passiert allerdings genau das Gegenteil. Solche Dinge bleiben eben nicht geheim. Instrumente zur Verhaltenskontrolle oder Verhaltensmanipulation werden über kurz oder lang bemerkt. Man erkennt die Absichten und verhält sich absichtsvoll anders. Eine Haltung wie Ich-hab-nichts-zu-verbergen-Denkhaltung einzunehmen wie Dieter Bohlen, ist dabei die schlechteste Variante im Umgang mit den Datensystemen – egal, ob sie privat oder staatlich organisiert sind.

Aber hilft der Ausstieg aus den Systemen weiter?

Da finde ich paradoxe Interventionen besser. Mit Winfried Felser habe ich das mal ausführlich erörtert:

Wer aussteigt, kann keine parasitären Stinkbomben in den Systemen mehr zünden. Ordnungssysteme wie Google oder Facebook hassen Störenfriede und Parasiten. Sie wollen Ruhe in ihren Systemen haben.

„Die Macht suchte und sucht das Zentrum einzunehmen. Wenn sie von diesem Zentrum aus wirken, ihre Wirksamkeit bis an die Grenzen des Raumes entfalten, wenn sie bis an die Peripherie reichen soll, so ist es notwendig, dass es kein Hindernis gibt, dass der Raum um ihre Aktion homogen ist. Kurz, der Raum muss frei von Rauschen, von Parasiten sein. Um Gehorsam zu finden, muss man gehört, muss man verstanden werden, muss die Ordnungsbotschaft Stille vorfinden“, schreibt der Philosoph Michel Serres in seiner Abhandlung „Der Parasit“.

Deshalb ist es wichtig, als parasitärer Störenfried auf Facebook zu bleiben. Der Parasit kann seinen Wirt veredeln, aber auch töten. Diese Option sollte man nutzen.

#KuenstlicheIntelligenz #Digitalstrategie #Digitalklausur Wo steht Deutschland? @ChrisStoecker @DFKI @lietzkow @ReinhardKarger @DigitalratD @th_sattelberger

Mittlerweile gibt es eine Flut von Veröffentlichungen und Stellungnahmen zur Relevanz von Künstlicher Intelligenz. Wie gut Deutschland in der KI-Forschung und in der Anwendung von KI dasteht, ist höchst umstritten. Als Beispiel führe ich den Beitrag von Christian Stöcker auf, der im Spiegel eine sehr kritische Position zur KI-Forschung in Deutschland vertritt. Sie ähnelt den Wortmeldungen des FDP-Bundestagsabgeordneten Thomas Sattelberger.

Die Zahl der Fachbeiträge wertet Stöcker als Indikator für die Relevanz der KI-Forschung:

„Wie es bei uns in Sachen maschinelles Lernen wirklich aussieht, kann man an den Tagungsbeiträgen bei großen internationalen Fachkonferenzen ablesen. Unter Informatikern sind per Peer Review ausgewählte Konferenzbeiträge zentral fürs Renommee“, behauptet Stöcker und verweist auf die KI-Konferenz NIPS, die er zur wichtigsten Konferenz über KI einordnet:

„Zur NIPS 2017 wurden 3240 Paper eingereicht, davon wurden 679 akzeptiert. 91 stammten von Google und seiner Tochter Deepmind, weitere 40 von Autoren, die für Microsoft arbeiten. Unter den 57 Institutionen, die mehr als fünf Paper auf der Tagung unterbrachten, sind fünf europäische – und keine deutsche.Vielleicht reichen deutsche Forscher ihre KI-Arbeiten ja lieber bei einer großen europäischen Konferenz ein? Wie der International Conference on Machine Learning (ICML), die 2018 in Stockholm stattfand? 58 Institutionen kamen dort auf mehr als fünf angenommene Beiträge – und darunter sind immerhin zwei Deutsche: Das Max-Planck-Institut für intelligente Systeme und die Universität Tübingen. Zusammen kommen sie auf 21 Beiträge. Das ist beachtlich – genau so viel wie die Gesamtzahl der erfolgreichen Einreichungen von Facebook-Mitarbeitern. Zählt man alle Google-Paper bei der Tagung zusammen, kommt man auf 82. Das sind 13 Prozent aller erfolgreichen Einrichtungen“, schreibt Stöcker.

In das gleiche Horn bläst Stefan Heumann.

Auf der Kölner Konferenz #NextAct äußerte sich der FDP-Neupolitiker Thomas Sattelberger kritisch über die Leistungen des Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI): Die besten KI-Forscher würden abwandern und landen bei internationalen Konzernen. Zudem möge man sich mal die Zahl der Ausgründungen anschauen, die aus dem DFKI in den vergangenen zehn Jahren gekommen sind. Siehe auch meinen Bericht auf ciokurator.com.

“Das ist eine vernachlässigbare Größe. Skaliert hat keine einzige”, moniert Sattelberger.

Das seien Forschungseinrichtungen, wo das wissenschaftliche Erkenntnisinteresse vor dem Verwertungsinteresse dominiert.

“Forschung soll nicht nur verwertungsorientiert sein. Wir brauchen eine vernünftige Balance zwischen zitiert werden in A+ Journals und dem gesellschaftlichen Nutzen”, fordert der forschungs- und innovationspolitische Sprecher der FDP-Bundestagsfraktion.‏

Ob man die Qualität der Forschung an der Zahl der Fachvorträge und an den Veröffentlichungen in hoch gerankten Journalen messen kann, halte ich doch für sehr fragwürdig. Da sollte man sich die Mechanismen hinter den Kulissen etwas genauer anschauen: Noch fragwürdiger ist es allerdings, die Stärken der KI-Forschung in Deutschland schlichtweg zu ignorieren. Allein das DFKI kann sich vor Aufträgen aus dem staatlichen und industriellen Sektor kaum noch retten, wie DFKI-Chef Professor Wolfgang Wahlster im Live-Talk auf der Cebit ausführte. Die Kritik von Sattelberger sei nicht nachvollziehbar, so Wahlster.

“Er ist ja nicht der absolute Spezialist für KI und war doch eher für Personalpolitik zuständig. Ich kenne ihn nicht als KI-Experten. Das soll er mal gründlicher anschauen. Wir haben 80 Spin-Off-Firmen generiert. Wir haben Firmenwerte von über einer Milliarde Euro generiert. Wir haben gerade in den vergangenen zwei Jahren Firmen für über 100 Millionen Euro verkauft. Das ist nun wirklich ein Witz, was Thomas Sattelberger behauptet. Da müsste er etwas genauer recherchieren”, so die Replik von Wahlster.

Das DFKI habe allerdings auch Forschungsaufgaben.

“Wir bilden die nächste Generation von Hochschullehrern aus und bringen KI-Talente hervor. 96 Professoren für KI, die in Deutschland tätig sind, wurden bei uns ausgebildet”, betont der DFKI-Chef.

Man sollte bei der Beurteilung der Forschungsarbeit nicht nur auf Spin-Off-Firmen schauen. Auch die etablierten Unternehmen in Deutschland würden die Relevanz der KI erkennen und sich erfolgreich innovieren. Etwa Bosch und Siemens, denen das in den vergangenen Jahrzehnten immer wieder gelungen sei.

“In den USA sind viele große Unternehmen den Abgrund runter gestürzt. Man hat dort zwar erfolgreiche Spin-Offs, es werden in der Öffentlichkeit allerdings immer die gleichen Beispiele genannt. Siemens, Bosch und andere Unternehmen in unserem Land waren und sind über Generationen hinweg Flaggschiffe. Das muss man erst einmal können. Diese Unternehmen haben KI-Abteilungen errichtet und setzen lernende Systeme bis in die Produktentwicklung ein”, erläutert Wahlster.

Thomas Sattelberger sollte eine Deutschlandtour machen und sich diese Anwendungen anschauen. Wahlster würde ihn dabei begleiten.

Der Blick in die USA hilft nicht immer weiter.

“IBM gibt es in Deutschland seit mehr als 100 Jahren. Ich leite ein Entwicklungslabor in Böblingen mit rund 1.700 Mitarbeitern. Wir beschäftigen uns intensiv mit KI. Es passiert sehr viel in Deutschland”, bestätigt Dirk Wittkopp, Geschäftsführer der IBM Deutschland Research & Development GmbH.

Auch Wahlster hält von den Vergleichen mit den USA wenig. Man sei schon längst international vernetzt. Google und Co. seien Gesellschafter im DFKI. Es gebe einen regen Austausch. So komme das Team für die autonome Übersetzung bei Google aus dem DFKI.

“Man befruchtet sich gegenseitig. In Deutschland sollten wir uns auf unsere Stärken besinnen. Etwa in der Industrie. Man sollte die ‘KI-Spritze’ in die besten Produkte injizieren, sei es die Landmaschine, sei es die Werkzeugmaschine, sei es der Medizin Scanner von Siemens oder das Auto. Es bringt nichts, Google zu kopieren.”

Zu den Beschlüssen der KI-Klausurtagung der Bundesregierung äußerte sich Wahlster gegenüber der FAZ positiv:

„Ich bin von der neuen KI-Strategie begeistert, da nun in Europa das größte nationale Förderprogramm den Durchbruch von KI-Lösungen auf breiter Front ermöglicht. Damit wird endlich auch die von etlichen Medien und amerikanischen Unternehmensberatern oft fälschlich behauptete Überlegenheit der amerikanischen und chinesischen KI-Strategien klar widerlegt.“ Tatsächlich sei die Summe des deutschen Programms größer als die Initiativen, die beispielsweise Frankreich und Großbritannien bislang begonnen haben, so die FAZ.

Drei Punkt, die Christian Stöcker dargelegt hat, sind allerdings essentiell:

„Rechenleistung – die bei Google und Co. bekanntlich in Hülle und Fülle vorhanden ist, bis hin zu eigens für maschinelles Lernen entwickelten Spezialchips. Das exponentielle Wachstum der in KI investierten Rechenleistung wird maßgeblich von Google vorangetrieben. Große Datenmengen – und auch die liegen im Silicon Valley bekanntlich vor. Wussten Sie zum Beispiel, dass sie jedes Mal, wenn sie auf einem Captcha Schornsteine oder Zebrastreifen identifizieren, Daten fürs Machine Learning erzeugen? Und zwar für Google? Innovationen, also schlaue Leute. Die natürlich auch wieder bevorzugt dort arbeiten, wo Rechenleistung und Trainingsdaten en masse zur Verfügung stehen. Und wo man fünf- bis zehnmal so viel verdienen kann wie auf einer Postdoc-Stelle an einer deutschen Hochschule.“

Hochschulen müssten ihren Spitzenkräften erleichtern, an ihren Erfindungen zu verdienen. Auch das ist super wichtig.

Wie kommt man an die Trainingsdaten und wie verhindert man die Abwanderung von Talenten in der KI, das sind wohl die wichtigsten Fragen, die wir in Deutschland beantworten müssen. Das erörterten wir mit Jörg Müller-Lietzkow auf der Next Economy Open #NEO18x.

Wir sollten also nicht die Zeit vertrödeln beim Schlechtreden der KI-Forschung in Deutschland, sondern die richtigen Akzente in den nächsten Jahren setzen.

Hat der politische Druck auf Facebook irgendetwas bewirkt?

Nur Naivlinge und unverbesserliche Optimisten konnten wirklich davon ausgehen, dass der Skandal rund um Facebook und Cambridge Analytica einen Massenexodus der Nutzer zur Folge hätte, schreibt Martin Giesler in einem Beitrag für besserdatenschuetzen.com:

„Hatte es nicht. Facebook wächst. Legt galaktische Zahlen vor. Punkt. Die Nutzer zeigen sich von der Datensammelwut des Konzerns mit dem freundlichen Blau nahezu unbeeindruckt. Vielmehr hadern sie mit dem Produkt selbst, was sich in einem veränderten Nutzungsverhalten beobachten lässt – und für Facebook zum eigentlichen Problem werden könnte.“

Bereits seit Jahren gebe es gut begründete Hinweise darauf, dass Facebooks Nutzer die App nicht mehr primär für die Zwecke verwenden, für die sie grundsätzlich konzipiert wurde:

„Facebooks Nutzer posten, teilen und interagieren zunehmend weniger im klassischen Sinne. Vielmehr tummeln sie sich in vermeintlich privaten Gruppen, chatten im Messenger oder produzieren sich auf Instagram“, meint Giesler (gibt es dafür empirische Belege? gs).

Dieses veränderte Nutzungsverhalten führe zu einer geringeren Bedeutung des News Feeds, also Facebooks Internet im Internet, respektive dem Platz, an dem Nutzer die Inhalte streng nach Facebooks kommerziellen Interessen sortiert und aufbereitet bekommen. Der News Feed sei aber eben auch genau der eine Ort, an dem Facebook seine unglaublichen Umsätze erwirtschaftet. An keiner anderen Stelle in der App werde derartig intensiv in Werbeplätze investiert.

„Vielleicht, so mutet es jedenfalls an, bekommt das Thema Datenschutz somit in der Tat durch die Nutzer einen ganz neuen Stellenwert. Aber eben nicht in der Form, wie es von Branchenbeobachtern, Politikern, Wissenschaftlern und den #deletefacebook-Aktivisten antizipiert wurde: Kaum jemand verlässt die sozialen Medien, weil sie zu viele Daten sammeln, sondern weil die Apps, die auf der Grundlage dieser Überwachungslogik konzipiert wurden, einfach nicht länger attraktiv sind“, resümiert Giesler.

Auf Facebook habe ich zu diesem Thema eine kleine Debatte losgetreten. Was hat Facebook als Reaktion auf den Datenskandal mit Cambridge Analytica überhaupt verändert und für die Nutzer verbessert? Wo haben sie Transparenz geschaffen? Was hat der politische Druck bewirkt? Und was hat die DSGVO bei verändert?

Wie seht Ihr das?

KI-Spritze in die besten (Industrie)-Produkte bringen – @DFKI Chef Wahlster im #Cebit18 #Livestudio #ibm

Super interessantes Gespräch zu KI-Forschung in Deutschland und Europa – Professor Wolfgang Wahlster, technisch-wissenschaftlicher Direktor und Vorsitzender der Geschäftsführung des DFKI, und Dirk Wittkopp, Geschäftsführer der IBM Deutschland Research & Development:

Man hört, sieht und streamt sich auf der Cebit noch bis Freitag.