Im Messe-TV-Studio der Zukunft Personal Europe sprach Aya Jaff über die hellen und dunklen Seiten der Künstlichen Intelligenz. Was als Fortschritt im Recruiting beginnt – Blindbewerbungen, Avatare, Qualifizierungstools – birgt zugleich die Gefahr einer unsichtbaren Normierung. Denn die Maschinen lernen aus der Vergangenheit. Füttert man sie mit verzerrten Daten, dann perpetuieren sie alte Ungleichheiten. Was als faire Vorauswahl gedacht war, kippt in die Logik des Ausschlusses.

Noch deutlicher wird es bei der Überwachung: KI-Systeme, die rund um die Uhr laufen, verwandeln die Versprechen von Transparenz in einen digitalen Nasenring. Jeder Handgriff, jeder Klick, jeder Gang zum Klo kann erfasst und ausgewertet werden. In den USA längst Realität, schleicht sich dieses Muster auch in europäische Unternehmen. Was als Automatisierung beginnt, endet im Zwang.

Verantwortung statt Automatisierungsreflex

Jaff insistiert: Es geht nicht darum, Effizienzgewinne zu verteufeln. Vielmehr darum, Verantwortung nicht an Algorithmen auszulagern. Führungskräfte müssen verstehen, was sie da einsetzen – nicht nur die Belegschaften schulen, sondern auch sich selbst. Die Frage lautet: Wo endet Effizienz, wo beginnt Verantwortung? In dieser Grauzone entscheidet sich, ob KI Werkzeuge für Gerechtigkeit bereitstellt – oder Disziplinierungsinstrumente, die Arbeitsplätze in digitale Fließbänder verwandeln.

Die Broligarchen – Herren der Algorithmen

Doch die Debatte bleibt nicht im Unternehmen stehen. Jaffs neues Buch trägt den Titel „Broligarchie“ – ein Neologismus, der schon jetzt Karriere macht. Gemeint ist die neue Klasse der Tech-Milliardäre: Musk, Thiel, Draper, Andreessen. Männer, die sich als „Sovereign Individuals“ inszenieren, jenseits von Staat, Recht und Kontrolle. Ihre Vision von Freiheit: keine Steuern, keine Regulierung, absolute Autonomie. Ihre Praxis: politische Fundraiser für Trump, Investitionen in Krypto-Inseln, algorithmische Gatekeeping-Macht über die globale Öffentlichkeit.

Diese Broligarchen haben verstanden, dass Algorithmen mehr wert sind als Panzer. Wer kontrolliert, was wir sehen, lesen, hören, kontrolliert auch, wie wir entscheiden. Der Bias im Recruiting ist nur das Vorspiel. Der Bias im politischen Raum entscheidet über Demokratien.

Zwischen Personalakte und Polis

Das Gespräch in Köln machte deutlich, wie eng die beiden Ebenen verschränkt sind. Die Frage, ob ein Avatar Bewerbungen gerechter vorsortiert, verweist auf dieselbe Logik wie die Machtspiele der Silicon-Valley-Elite: Wer bestimmt die Datenbasis? Wer programmiert den Zufall? Wer profitiert vom Ausschluss?

Aya Jaffs Diagnose ist ernüchternd und ermutigend zugleich. Ernüchternd, weil KI derzeit vor allem als Rationalisierungsmaschine genutzt wird. Ermutigend, weil Start-ups und kritische Köpfe den Mut haben, Gegenentwürfe zu formulieren – für Fairness im Recruiting, für Transparenz in der Überwachung, für Demokratie im digitalen Raum.

Der Nasenring der Freiheit

Die Broligarchen versprechen eine Zukunft ohne Grenzen. Doch ihre Freiheit ist die Unfreiheit der anderen. Im Kleinen zeigt sich das im Recruiting-Algorithmus, der Bewerberinnen systematisch aussortiert. Im Großen in der politischen Arena, wo Milliardäre ihre eigene Republik im Netz errichten.

Der Nasenring, den Aya Jaff beschreibt, ist mehr als ein Bild für Überwachung. Er ist das Symbol einer Epoche, in der Effizienz über Verantwortung gestellt wird. Ihn abzulegen, ist nicht nur Aufgabe von Personalabteilungen, sondern der Demokratie selbst.