Wer zu Open Data nicht bereit ist, sollte von Big Data schweigen #Datability #Cebit #Systemtheorie #Schirrmacher

Automatisierte Kontrollgesellschaft?
Automatisierte Kontrollgesellschaft?

„We don’t know how the human brain works.“ Mit diesem Satz macht Patrick Breitenbach auf einen Artikel aufmerksam, der sich mit den Thesen von Kurzweil beschäftigt: „Why Ray Kurzweil is Wrong: Computers Won’t Be Smarter Than Us Anytime Soon“.

Es sind letztlich völlig überdrehte, anmaßende und werbegetriebene Thesen, die man mit Big Data, Künstliche Intelligenz und Neurowissenschaften verbindet. Das wirkt sich vielleicht positiv auf den Verkauf von Büchern über das Ende des Zufalls aus oder über Neuro-Leadership, Neuro-Marketing und Maschinen-Intelligenz. Es ist auch eine beliebte Methode, um milliardenschwere Forschungsbudgets und Beratungsaufträge zu kapern, wie beim Human Brain Project. Beim öffentlichen Diskurs sollte man die wirtschaftlichen Interessen dieser Akteure nicht aus den Augen verlieren. Siehe dazu auch: „Die große Neuro-Show – Was wurde aus den Verheißungen der Hirnforschung? Wissenschaftler ziehen Bilanz. Sie fällt dürftig aus“.

Die Systeme können nur das, was Menschen programmiert haben und daraus ableiten. Es sind hoch manipulative, konstruierte und erfundene Welten, die immer zu richtigen Ergebnissen kommen. Richtig im Sinne des Erfinders, Konstrukteurs, System-Ingenieurs, Mathematikers, Software-Entwicklers, Hirnforschers oder KI-Wissenschaftlers: Die Logik sei nur ein Beschreibungsapparat, so wie die Grammatik für Sprache, sagt Systemtheoretiker Heinz von Foerster im Fernsehinterview mit Lutz Dammbeck.

„Die Logik ist ja nur eine Maschine, um mit gewissen Aussagen gewisse andere Aussagen machen und entwickeln zu können. Der Übergang von A nach B, das ist, was die Logik kontrolliert….also die Logik bringt ja gar nichts Neues….die Logik macht es nur möglich, dass Sie von einem Satz, der etwas verschwommen ist, etwas ableiten können, oder Sätze, die ähnlich verschwommen sind, ordentlich beweisen können.“ In diesen weltweit funktionierenden Maschinensystemen seien alle Aussagen richtig – im Sinne der Ableitungen.

Heinz von Foerster
Heinz von Foerster

Wenn sich auf diesem wackligen Fundament die Big Data-Neuroklecks-KI-Hohepriester aufschwingen, das Leben anderer Menschen zu beeinflussen, zu kontrollieren, zu steuern und zu bestimmen, müssen sie ihre Ableitungen offenlegen. An diesem Punkt stimme ich FAZ-Herausgeber Frank Schirrmacher zu, der fordert, dass die offene Gesellschaft neue Freunde braucht.

Er beschreibt in seinem FAZ-Leitartikel den Fall einer Amazon-Lageristin in Allentown, die nach mehreren 11-Stunden-Arbeitstagen eine automatisierte SMS des „employee-tagging“- Systems bekam. Botschaft: Sie sei „mehrere Minuten“ unproduktiv gewesen und wurde kurz darauf gefeuert. Droht hier ein neuer Optimierungswahn, der in den Pionierzeiten des Industriekapitalismus von Henry Ford etabliert wurde?

„Die Erkenntnis, dass die IT-Industrie Teil der wohl bedeutendsten gesellschaftlichen Debatte sein muss, nimmt auch die jetzt beginnende Cebit ernst, die weltgrößte Computermesse. Unter dem Titel ‚Datability‘ – dem ’nachhaltigen‘ Umgang mit Daten – will sie sich, aufgeschreckt vor allem durch die Snowden-Enthüllungen, an einem Diskurs beteiligen, der sich den Chancen und den Risiken der digitalen Moderne widmet. Schon das ist ein Fortschritt. Es signalisiert, dass die Branche verstanden hat, dass die Zeiten vorbei sind, in denen technische Geräte die entsprechenden Sozialtechniken gleichsam mitproduzieren und einfordern – unter Ausschaltung jeder politischen Willensbildung“, schreibt Schirrmacher.

Das sei eine politische Aufgabe, keine technologische. „Anders gesagt: man kann die Festlegung gesellschaftlicher und politischer Normen nicht einer Mathematik überlassen, die systematisch Kausalitäten und Korrelationen erzeugt, deren Effekte wir spüren, aber deren Zustandekommen wir nicht nachvollziehen können.“

Diesen Satz sollten sich die Richter des Bundesgerichtshofs hinter die Ohren kleben. Stichwort: Schufa-Urteil.

Wer eine falsche Stromrechnung bekomme, der rechnet nach. Wer eine falsche Rechnung über seine Lebens- und Karrierechancen, seine Talente, seine Effizienz und Kondition, seine Gesundheitsprognose oder seine Kreditwürdigkeit bekommt, der könne nur noch glauben.

„Heute gelten die Algorithmen, die beispielsweise die Reputation oder Kreditwürdigkeit von Menschen berechnen, als Geschäftsgeheimnis“, so Schirrmacher.

Wer nicht nur Stauwarnungen ausspricht, sondern auch das Wohl und Wehe von einzelnen Menschen beeinträchtigt und zu Open Data nicht bereit ist, sollte Big Data nicht anwenden dürfen. Die Entwickler von diesen Systemen werden ohne politische Regeln dazu nicht freiwillig bereit sein, wie mir ein Informatiker klar zu verstehen gab. Er habe eine Software für Kliniken entwickelt, um „gute“ von „schlechten“ Patienten zu trennen. Das Auswertungstool soll aufzeigen, wo Ärzte Geld verballern. Und was ist mit den Patienten, fragte ich nach. Müsste so etwas nicht öffentlich verhandelt werden? Antwort: Offenlegungspflichten sieht er nur gegenüber seinen Auftraggebern. Wenn dieser Mann dazu nicht bereit ist, muss er mit rechtsstaatlichen Mitteln dazu gezwungen werden, wenn die betroffenen Patienten es verlangen.

Siehe auch die Rede von Google-Manager Eric Schmidt auf der Tech-Konferenz SXSW und sein merkwürdiges Verständnis von Selbstzensur.

Entlarvung der Neo-Kybernetiker.

Liebwerteste Gichtlinge der Internet-Konzerne, wo bleibt der ehrliche Datenpakt mit der Netzgesellschaft?

Ohne Einsicht in die Formelstube keine informelle Selbstbestimmung #Schufa #BGH

Hulk-Aufreger des Tages gebührt BGH und Schufa
Hulk-Aufreger des Tages gebührt BGH und Schufa

Beim Schufa-Urteil des Bundesgerichtshofs sollte man jetzt nicht zur Tagesordnung übergehen. Wenn meine Kreditwürdigkeit abhängt von fragwürdigen Prognose-Modellen, die nach dem umstrittenen BGH-Urteil nicht offen gelegt werden müssen, wie soll ich mich dagegen rechtlich wehren können?

Entscheidend ist nicht nur das Score-Ergebnis, liebwerteste BGH-Gichtlinge, sondern die Formel mit den Gewichtungen. Die Systeme sind so blöd und fehlerhaft wie die Analysten, die die Daten einspeisen und dann Vorhersagen über „Geheimformeln“ ausrechnen. Oder im Schönwetter-Deutsch der Schufa:

„Scores bilden ein anerkanntes, vertrauensbildendes und stabilisierendes Element der Konsumwirtschaft: 97,5 % der Kreditverträge in Deutschland werden vertragsgemäß zurückgezahlt. Sie ermöglichen eine Prognose für das individuelle zukünftige Kreditverhalten, wodurch Kreditgeber, z.B. Banken oder der Handel, eine valide Einschätzung über das Rückzahlverhalten eines Verbrauchers haben. Kreditnehmer können sich dadurch fair, günstig und bequem ihre Wünsche erfüllen.“

Scores sind also ein anerkanntes, vertrauensbildendes und stabilisierendes Element? Das sehen Statistik-Kenner ganz anders – auch die Big Data-Prediger sollten sich das folgende Statement hinter die Ohren kleben, die vom Ende des Zufalls und von Welterklärungsmaschinen schwafeln:

„Die Grundlage der Statistik, also auch jeder Form des Scorings, ist die Hypothese. Es werden Punkte für die unterschiedlichsten Vorgänge oder Tatsachen verteilt und diese dann gewichtet. Die Gewichtung ist eine Meinung und an dieser Stelle arbeitet die Schufa auch nicht anders als eine gemeine Ratingagentur, die sich mit der Bewertung von Krisenländern wie Spanien verdingen muss. Diese Meinung beinhaltet automatisch eine Fehlerquote“, schreibt Marco Herack in seinem Blog.

Bei der Gewichtung von Informationen wird also eine Entscheidung von Menschen getroffen:

Wir kategorisieren die Informationen als wichtig und weniger wichtig, ehe wir sie zusammenfügen und uns dann eine Meinung bilden.

„Damit verändern wir den Status der Informationen. 80 Prozent aller verfügbaren Informationen führen nicht zu einer 80 Prozent-Chance auf ein richtiges Ergebnis. Durch die Interpretation kann es falsch werden, umgekehrt können wir bei 20 Prozent aller Informationen durch glückliche Interpretation bereits krachend richtig liegen. Das ist dann nur kein Können, sondern reiner Zufall“, so Herack.

Diese Meinungsäußerungen im Zahleneintopf der Schufa werden vom BGH als Geschäftsgeheimnis deklariert.

Bei Euch hackt es wohl. Die machen Geschäfte mit meinen Daten, bekommen teilweise zweifelhafte Informationen von Händlern, Banken sowie Versicherungen und meine Geschäftstätigkeit wird davon massiv beeinflusst. Eine Wahlfreiheit zur Zustimmung der Schufa-Abfrage habe ich nicht wirklich. Was würde denn passieren, wenn ich das verweigere? Geschäftlich wäre ich tot.

Der faktische Zwang des Schufa-Verfahrens kann also wie bei den idiotischen Rating-Agenturen meine Kredite verteuern oder gar zur Ablehnung von Krediten führen, wie bei dem Fall, der vom BGH beurteilt wurde. Der Klägerin wurde übrigens ein Autokredit verweigert auf Basis ihres schlechten Score-Wertes, der auf einer Namensverwechslung beruhte. Es reicht also nicht aus, einen Daten-TÜV ins Spiel zu bringen oder Schiedsgerichte zu installieren (die Schufa hat ja einen Ombudsmann), bei dem ich die Möglichkeit habe, die Vorhersagen der automatischen Denunzianten-Systeme zu entkräften. So eine Institution hat Professor Mayer-Schonberger vom Internet Institute in Oxford ins Gespräch gebracht: Aber selbst der Big Data-Professor fordert Einsicht in die Formelstube der Analysten. Algorithmen, die Risiko-Vorhersagen berechnen, müssten einsehbar sein, sagt der Autor des Buches „BIG DATA – Die Revolution, die unser Leben verändern wird“:

„Die Faktoren, die in die Berechnung der Prognose einfließen, müssen transparent sein, und es muss Regeln geben, wie der Betroffene das Ergebnis widerlegen kann.“

Umgekehrt wird ein Schuh draus. Die Beweislast muss beim Modellschreiner liegen. Wenn er mich ohne Offenlegung der Berechnungsmethoden als kreditunwürdig einstuft, sollte das straf- und zivilrechtliche Konsequenzen nach sich ziehen. Besonders bei einem Unternehmen wie die Schufa AG, die zu den Big Data-Giganten in Deutschland zählt und das schon zu Zeiten, wo keine Seele über Big Data redete. Nachzulesen in meiner heutigen The European-Kolumne.

Kann der Bundesgerichtshof Mathe? #Schufa

Ist Mathe auch für den BGH ein Arschloch
Ist Mathe auch für den BGH ein Arschloch?

Spätestens seit dem Lehman-Finanzcrash dürfte bekannt sein, mit welch dünner mathematischer Sauce selbst nobelpreisgekrönte Mathematiker und Wirtschaftswissenschaftler ihre Modellannahmen mit den Mitteln der Wahrscheinlichkeitsrechnung zusammenrühren.

Die Modelle, mit denen Händler, Banken und Versicherungen arbeiten, sind, wie der Mathematiker Yuri Manin sagt, in hohem Maße in der Software ihrer Computer codiert. Was diese mathematisch-statistischen Verfahren leisten sind Optionen, Wahrscheinlichkeiten, Vorschläge, Hinweise und Anregungen. Dahinter stecken allerdings wiederum Menschen, die mit Annahmen und Gewichtungen für ihre Prognose-Rechnungen operieren. Und die können Unternehmen, Volkswirtschaften, Konsumenten, Wähler und Politiker auch völlig in die Grütze manövrieren.

Wo Ungewissheit und menschliche Fehler wuchern, versagen leider auch die besten Simulationsrechnungen. Bei Wetterprognosen und Stauwarnungen kann ich das ja noch verkraften, auch wenn ich im Regen stehe oder mit dem Wagen keinen Meter mehr weiter komme. Selbst das Versagen der Konjunkturforscher bei der Vorhersage der Wachstumsentwicklung ist nur eine Randbemerkung wert – auch wenn sich dieses Glaskugel-Ritual nun schon seit über 40 Jahren abspielt und sich keine Erfolge bei der VWL-Wahrsagerei einstellen. Für diesen VWL-Schabernack überweist der Staat jährlich rund 50 Millionen Euro an die Forschungsinstitute.

Fallobst-Rechner

Wenn allerdings die statistischen Fallobst-Rechnereien meine Existenz beeinträchtigen, sieht die Sache anders aus. Wenn fehleranfällige Statistik-Methoden und Maschinen Entscheidungen über einzelne Menschen treffen oder vorbereiten, etwa bei der Verweigerung von Krediten, hört der Spaß auf. Leider hat jetzt der Bundesgerichtshof einen Revisionsantrag einer Klägerin abgelehnt, genaue Auskünfte zu bekommen, welche Merkmale zur Scoreberechnung des Daten-Giganten Schufa in welcher Gewichtung in das statistische Verfahren über die Beurteilung der Kreditwürdigkeit einfließen.

Das würdige ich natürlich morgen in meiner The European-Kolumne. Zahlen lügen nicht? Ach nee, dat waren doch Tränen.

Oder waren es Dänen?

Und die Schufa-Pressesprecherin erweist sich als Wegbereiterin für die Renaissance der Verschriftung.

Siehe auch:

Kreditwürdigkeit: Schufa darf Berechnungsformel für sich behalten.

Barcamp am Bodensee und BGH #bcbs13 #youtube #framing

Das passt ja wie die Faust aufs Auge. Mit Oliver Gassner, der das Barcamp am Bodensee organisiert, habe ich über mögliche Themen gesprochen, die man vom 31. Mai bis 2. Juni möglicherweise diskutieren wird. Und da fiel natürlich auch die Frage nach dem Urheberrecht beim Einbetten von Youtube-Videos und den Konsequenzen der heutigen BGH-Entscheidung. War allerdings nur eine Randbemerkung.

Und schwupp kam die Pressemitteilung des BGH:

Der für das Urheberrecht zuständige I. Zivilsenat des Bundesgerichtshofs hat dem Gerichtshof der Europäischen Union die Frage vorgelegt, ob der Betreiber einer Internetseite eine Urheberrechtsverletzung begeht, wenn er urheberrechtlich geschützte Inhalte, die auf anderen Internetseiten öffentlich zugänglich sind, im Wege des „Framing“ in seine eigene Internetseite einbindet.

Die Klägerin, die Wasserfiltersysteme herstellt und vertreibt, ließ zu Werbezwecken einen etwa zwei Minuten langen Film mit dem Titel „Die Realität“ herstellen, der sich mit der Wasserverschmutzung befasst. Sie ist Inhaberin der ausschließlichen Nutzungsrechte an diesem Film. Der Film war – nach dem Vorbringen der Klägerin ohne ihre Zustimmung – auf der Videoplattform „YouTube“ abrufbar.

Die beiden Beklagten sind als selbständige Handelsvertreter für ein mit der Klägerin im Wettbewerb stehendes Unternehmen tätig. Sie unterhalten jeweils eigene Internetseiten, auf denen sie für die von ihnen vertriebenen Produkte werben. Im Sommer 2010 ermöglichten sie den Besuchern ihrer Internetseiten, das von der Klägerin in Auftrag gegebene Video im Wege des „Framing“ abzurufen. Bei einem Klick auf einen elektronischen Verweis wurde der Film vom Server der Videoplattform „YouTube“ abgerufen und in einem auf den Webseiten der Beklagten erscheinenden Rahmen („Frame“) abgespielt.

Die Klägerin ist der Auffassung, die Beklagten hätten das Video damit unberechtigt im Sinne des § 19a UrhG öffentlich zugänglich gemacht. Sie hat die Beklagten daher auf Zahlung von Schadensersatz in Anspruch genommen.

Das Landgericht hat die Beklagten antragsgemäß zur Zahlung von Schadensersatz in Höhe von je 1.000 € an die Klägerin verurteilt. Auf die Berufung der Beklagten hat das Berufungsgericht die Klage abgewiesen. Mit der vom Berufungsgericht zugelassenen Revision begehrt die Klägerin die Wiederherstellung des landgerichtlichen Urteils.

Das Berufungsgericht hat zwar – so der Bundesgerichtshof – mit Recht angenommen, dass die bloße Verknüpfung eines auf einer fremden Internetseite bereitgehaltenen Werkes mit der eigenen Internetseite im Wege des „Framing“ grundsätzlich kein öffentliches Zugänglichmachen im Sinne des § 19a UrhG darstellt, weil allein der Inhaber der fremden Internetseite darüber entscheidet, ob das auf seiner Internetseite bereitgehaltene Werk der Öffentlichkeit zugänglich bleibt. Eine solche Verknüpfung könnte jedoch bei einer im Blick auf Art. 3 Abs. 1 der Richtlinie 2001/29/EG zur Harmonisierung bestimmter Aspekte des Urheberrechts und der verwandten Schutzrechte in der Informationsgesellschaft gebotenen richtlinienkonformen Auslegung des § 15 Abs. 2 UrhG ein unbenanntes Verwertungsrecht der öffentlichen Wiedergabe verletzen.

Der Bundesgerichtshof hat dem Gerichtshof der Europäischen Union daher die – auch unter Berücksichtigung der Rechtsprechung des Gerichtshofs nicht zweifelsfrei zu beantwortende – Frage vorgelegt, ob bei der hier in Rede stehenden Einbettung eines auf einer fremden Internetseite öffentlich zugänglich gemachten fremden Werkes in eine eigene Internetseite eine öffentliche Wiedergabe im Sinne des Art. 3 Abs. 1 der Richtlinie 2001/29/EG vorliegt.

Diese höchst fragwürdige Problematik bleibt also noch in der Schwebe. Gute Gründe, sich auch auf dem Barcamp mit dieser Geschichte weiter zu beschäftigen – neben vielen anderen digitalen Themen, die in Konstanz besprochen werden.

Es wird beim Barcamp im Süden Deutschlands sicherlich sonnig und spaßig. Gute Gründe, um sich anzumelden 🙂

Youtube: Scheitert die Kultur des Teilens am Bundesgerichtshof? #Bloggercamp mit Rechtsanwalt Matthias Lachenmann um 19:30 Uhr!

Youtube-Szene gefährdet

Wir hatten ja schon angekündigt, uns mit der bevorstehenden BGH-Entscheidung zur Einbettung von Youtube-Videos zu beschäftigen.

Wir diskutieren das heute Abend, um 19:30 Uhr in unserer Bloggercamp-Livesendung mit Rechtsanwalt Matthias Lachenmann.

Unser Gesprächsgast hat freundlicherweise ein paar Fakten zusammengetragen, die bei diesem Fall relevant sein können. Wann haftet ein Nutzer für Urheberrechtsverletzungen bei der Verbreitung von Videos?

Ohne Einbettung:

Ein Nutzer lädt ein Video auf seinen eigenen Webspace hoch und veröffentlicht es auf seiner Homepage, ohne die nötigen Rechte zu haben. Der Nutzer begeht unproblematisch eine Urheberrechtsverletzung gem. §§ 16 UrhG, da eine Vervielfältigung des Videos vorliegt sowie gem. § 19a UrhG (Verletzung des Rechts auf öffentliche Zugänglichmachung).

Ein Nutzer setzt einen Link auf die Homepage eines Dritten, auf der Urheberrechtsverletzungen begangen werden, ein Homepage-Besucher muss den Link anklicken, um zu dem rechtswidrig hochgeladenen Video zu gelangen → Keine Haftung des Linksetzers. So entschieden vom BGH im Urteil BGH GRUR 2003, 958, 962

Einbetten/Framing von Videos:

Ein Nutzer bindet ein auf Seiten wie YouTube oder Vimeo hochgeladenes Video mittels Embedding/Framing des Links in seine Seite ein (das Video bleibt also auf dem Server des Anbieters gespeichert) → Rechtslage unklar.

Es liegt kein Verstoß gegen §§ 16 und 17 UrhG vor, da keine Kopie des Videos hergestellt wird.

Liegt ein Verstoß gegen § 19 UrhG vor? Umstritten! BGH wird im aktuellen Fall hoffentlich dazu Stellung nehmen. Siehe dazu den Beitrag Lachenmann.

Eine Ansicht: Ja, es liegt ein Verstoß vor, da der Nutzer das Video bereitstelle und das Abspielen veranlasse. Für einen Homepage-Besucher sei nicht (sofort) erkennbar, dass das Video von einem anderen Server komme. Etwa LG München.

Andere (m.E. richtige) Ansicht: Nein, kein Verstoß. Denn es handelt sich um keine eigene Bereitstellung des Videos durch den Nutzer, dieser setzt nur einen Link und zeigt dem Besucher den Platz auf einem Server, an dem es abrufbar ist.

Gute ausführliche Darstellung dessen bei SocialMediaRecht.

Zudem: Wer sein Video bei YouTube hochlädt, kann in das Embedding einwilligen oder nicht, erteilt also jedenfalls seine Einwilligung. Wird das Video jedoch gegen den Willen des Urhebers hochgeladen, kann er nicht einwilligen. Dann besteht Haftungsgefahr. ABER in beiden Fällen gilt die:

Störerhaftung.

Der Störerhaftung ist grundsätzlich jeder ausgesetzt, der Embedded Links/Frames einsetzt oder Video-Links bei Facebook postet. Wieder gibt es verschiedene Möglichkeiten, wie ein Nutzer haften kann.

Es ist für den Linksetzer nicht zu erkennen, dass das Video Urheberrechte verletzt und es wird deutlich, dass es nicht von ihm stammt → Es gilt „notice and take down“, wenn der Nutzer informiert wird und daraufhin den Link entfernt, haftet er nicht, auch nicht auf Unterlassung. Wenn er jedoch auf den Hinweis nicht reagiert, haftet er.

Es ist zu erkennen, dass das Video Urheberrechte verletzt → Der Nutzer haftet auf Unterlassung und Ersatz der Anwaltskosten. Hier ist gesundes Augenmaß gefragt.

Der Nutzer macht sich die fremden Inhalte zu Eigen (z.B. indem er Hinweise entfernt, dass die Inhalte auf fremden Seiten gespeichert sind, von außen nicht zu erkennen ist (z.B. durch Einbindung von Bildern), dass er sich um ein Embedding handelt → Der Nutzer haftet voll

Interessante Links:

Bewertung, ob bei Embedding/Framing Rechtsverletzungen vorliegen:

http://www.telemedicus.info/article/2453-Die-Haftung-fuer-eingebundene-Youtube-Videos.html

http://www.internet-law.de/2012/10/haften-blogger-fur-embedded-content.html

http://www.rechtambild.de/2012/11/einbetten-von-youtube-videos-keine-urheberrechtsverletzung/

http://www.rechtzweinull.de/archives/62-Haftung-fuer-Video-Embedding-bei-youtube,-myvideo-Co.html

http://netzrecht.org/zur-rechtlichen-einordnung-des-sog-streamings/

Inwieweit haften Seitenbetreiber wie YouTube für Urheberrechtsverletzende Inhalte?

Ein Dank gebührt Rechtsanwalt Tobias Kläner für seine hilfreichen Tipps und die Unterstützung!

Twitter-Zwischenrufe während der Liveübertragung bitte mit dem Hashtag #bloggercamp posten.

Das Thema müsste besonders für die Youtube-Szene netzpolitisch von großem Interesse sein!