43.000 Mitarbeitende. Leere Kassen. Und 30 Prozent der Belegschaft gehen in den nächsten fünf Jahren in Rente. In dieser Folge von Follow the White Rabbit spricht Dr. Nina Böhm, Digitalisierungsstrategin bei der Landeshauptstadt München, über eine unbequeme Wahrheit: Im Jahr 2025 muss man in der öffentlichen Verwaltung immer noch erklären, warum Digitalisierung überhaupt stattfinden sollte. Nicht das Budget ist das größte Problem. Nicht die Technik. Sondern der Moment, in dem ein IT-Referat sagt: „Wir müssen digitalisieren”, und alle anderen sagen: „Nö.”

Nina Böhm kommt aus der freien Wirtschaft und bringt genau den Blick von außen mit, den viele Behörden nicht mehr haben. Sie erklärt, warum die Digitalisierung kein IT-Projekt ist, sondern eine Transformation von 43.000 Menschen. Sie zeigt auf, wie Gesetze wie das Schriftformerfordernis Bürgerinnen und Bürger dazu zwingen, dieselben Daten immer wieder neu einzugeben. Und warum eine Personalausweisverlängerung längst vollautomatisiert ablaufen könnte – rund um die Uhr, sieben Tage die Woche –, während die freigewordene Zeit in echte Beratung fließt, die KI noch nicht leisten kann. Auch die Themen Datenschutz, Bias und der Berliner Senatshack kommen zur Sprache, denn wer die Daten aller Münchnerinnen und Münchner verwaltet, trägt eine andere Verantwortung als ein Start-up.

Am Ende bleibt die schlichte, aber ernste Frage: Wann ist es endlich Zeit, die Nutzerinnen und Nutzer in den Mittelpunkt zu stellen – nicht den Prozess, nicht die Hierarchie, nicht das Gesetz von 1980? Nina wünscht sich keine Digitaloffensive von oben. Sie wünscht sich, dass einmal jemand von vorne anfängt und fragt, wie ein Bürgerbüro heute aussehen würde, wenn es neu gebaut würde.

1. Die Digitalisierung ist kein IT-Projekt, sondern ein Gemeinschaftsprojekt. Wer sie ins IT-Referat abschiebt, hat bereits verloren. Eine Transformation kann nur gelingen, wenn alle 43.000 Mitarbeitenden beteiligt sind – nicht als Empfänger einer Lösung, sondern als Teil des Prozesses.
2. Fachkräftemangel und Haushaltskrise machen Automatisierung zur einzigen echten Option. 30 Prozent der Belegschaft gehen bald in Rente. Die Stellen werden nicht nachbesetzt. Wer jetzt nicht automatisiert, wird in fünf Jahren gar nichts mehr regeln können.
3. Datenschutz ist kein Feind der Digitalisierung – er ist ein Schutzschild. Die DSGVO und der AI Act als Ausrede zu nutzen, ist falsch. Wer kreativ und kooperativ mit dem Datenschutz arbeitet, findet Lösungen. Wer das Fingerpointing betreibt, bleibt stehen.
4. Ein Gesetz namens Schriftformerfordernis bremst die digitale Kommunikation zwischen Stadt und Bürger. Und kaum jemand kennt es. Bevor man digitalisiert, muss man wissen, welche Regeln das verhindern. KI könnte dabei helfen, genau das sichtbar zu machen.
5. „Fast-Follower” statt „Early Adopter” ist eine legitime Strategie für die öffentliche Hand. Wenn ein Fehler jedoch bedeutet, dass die Daten aller Münchnerinnen und Münchner im Darknet landen, ist Vorsicht keine Schwäche. Andere machen die Fehler, aus denen man lernt.

Jetzt abonnieren – und keine Folge mehr verpassen

Diese Folge ist für alle, die sich fragen, warum der Staat so langsam ist, sowie für alle, die daran arbeiten, dies zu ändern. Abonniere „Follow the White Rabbit”, hinterlasse eine Bewertung und schicke die Folge an Kolleginnen und Kollegen, die in Verwaltungen, Kommunen oder der öffentlichen Hand tätig sind. Oder an alle, die einfach verstehen wollen, warum die Beantragung eines Personalausweises immer noch sechs Wochen dauert.

Dr. Nina Böhm – Digitalisierungsstrategin, Landeshauptstadt München | Dr. Nina Böhm | LinkedIn

Onlinezugangsgesetz (OZG) – Stand der Umsetzung

EU AI Act – Volltext und Risikokategorien

Bitkom zur föderalen Modernisierungsagenda | Presseinformation | Bitkom e. V.

Beide Leitungen sind dicht. Die Handscanner an den Standorten sind ausgefallen. Die Paketabwicklung ist eingestellt. Die Auslieferfahrer sind hilflos. Innerhalb von Minuten stand ein internationaler Logistikkonzern still – nicht durch einen hochkomplexen Hack, sondern durch einen DDoS-Angriff auf die Netzwerkleitungen. In dieser Folge von „Follow the White Rabbit” spricht Lisa Fröhlich mit Christof Weppler, Senior IT-Architekt bei GLS, über den Moment, in dem er zum ersten Mal live miterlebt hat, was passiert, wenn die Leitung zum Rechenzentrum einfach voll ist. Und was er seitdem verändert hat.

Christof erklärt, warum eine Appliance im eigenen Netzwerk gegen DDoS-Angriffe so gut wie nichts bringt, denn wenn der Weg ins Rechenzentrum zugefahren ist, nutzt die beste Hardware dahinter nichts mehr. Er beschreibt, wie er damals mit BGP-Anpassungen versuchte, das Schlimmste zu verhindern, warum das langfristig keine Lösung war und wie er schließlich einen providerunabhängigen DDoS-Schutz eingeführt hat. Dazu gibt es einen ehrlichen Einblick in die interne Debatte bei GLS: Wer ist für den DDoS-Schutz zuständig – die Netzwerkeinheit oder die Security? Und warum ein Netzwerker unmöglich entscheiden kann, ob ein Request auf ein Webportal legitim ist oder nicht.

Was diese Folge besonders macht: Christof spricht nicht aus der Theorie, sondern aus 22 Jahren Praxis in einem Unternehmen, das täglich Millionen von Paketen bewegt. Er erklärt, welche Aspekte IT-Architekten bedenken müssen, bevor sie einen Schutzanbieter kontaktieren, und warum die Frage, welche Prozesse an einer einzigen Netzwerkleitung hängen, viel zu selten gestellt wird – bis es zu spät ist.

1. Eine Appliance im Rechenzentrum schützt nicht vor DDoS-Angriffen. Ist der Weg ins Rechenzentrum zugefahren, hilft auch die beste dahinterstehende Hardware nichts. Der Schutz muss daher bereits vor dem eigenen Netzwerk ansetzen, beispielsweise beim Provider oder einem spezialisierten Anbieter.
2. BGP-Manipulation ist ein Notfallwerkzeug, aber kein Schutzkonzept. Traffic umzuleiten, kann kurzfristig helfen. Langfristig ist ein providerunabhängiger DDoS-Schutz erforderlich, der nicht von einem einzigen Internetanbieter abhängig ist.
3. Netzwerker können nicht über Layer 7 entscheiden. Ob eine Anfrage an ein Webportal legitim ist, kann nur der Applikationsverantwortliche beurteilen. Ein DDoS-Schutz auf Anwendungsebene muss zwischen den Bereichen Security, Netzwerk und Portale koordiniert werden.
4. Erst verstehen, was hängt dran – dann schützen. Bevor man einen Anbieter kontaktiert, sollte man sich folgende Fragen stellen: Welche Prozesse, Services und Kunden hängen an welcher Leitung? Wer diese Frage nicht beantworten kann, bemerkt den Schaden erst, wenn er bereits entstanden ist.
5. Kommunikation auf Augenhöhe ist ein entscheidender Faktor. Beim Anbietervergleich hat nicht nur die Technik entschieden, sondern auch, ob man als Kunde wirklich erreichbar ist. Nicht jedes Unternehmen möchte bei einem Großanbieter nur eine kleine Nummer sein.

Jetzt abonnieren – und keine Folge mehr verpassen

Wenn dich diese Folge dazu gebracht hat, nachzufragen, welche Services an euren Netzwerkleitungen hängen, ist das gut. Dann abonniere Follow the White Rabbit, hinterlasse eine Bewertung und schicke die Folge an alle, die für die Netzwerkinfrastruktur verantwortlich sind – oder glauben, das tue jemand anderes.

Christof Weppler – Senior IT-Architekt, GLS | LinkedIn

BSI - Bundesamt für Sicherheit in der Informationstechnik - Liste qualifizierter DDoS-Mitigation-Dienstleister; Stand: 15.05.2026

Link11 DDoS-Schutz – Technologie & Funktionsweise

BGP – Border Gateway Protocol einfach erklärt

ENISA Threat Landscape 2026 | ENISA

„Mehr Tools bedeuten mehr Sicherheit“ – so lautet das Mantra vieler Unternehmen. Franziska Manko, VP Transformation & Governance und CSO bei OneQrew, sieht das jedoch anders. In dieser Folge von „Follow the White Rabbit” spricht sie mit Lisa Fröhlich darüber, warum zu viele Tools eine Selbstbeschäftigungsmaschine erzeugen, warum Einfachheit eine unterschätzte Sicherheitsstrategie ist und warum der gefährlichste Moment in einem Transformationsprozess nicht der Angriff von außen, sondern die Verteidigungshaltung von innen ist.

Franzi kennt beide Welten: die technische und die menschliche. Ihr Argument ist bestechend einfach. „Jedes Tool, das ich einführe, erzeugt Abhängigkeiten, Dashboards, Lieferanten und Aufmerksamkeit – alles Ressourcen, die dann woanders fehlen.“ Anstatt am Ende eines Prozesses immer mehr Sicherheitskontrollen aufzubauen, plädiert sie dafür, bereits beim Engineering einer Lösung zu fragen: „Kann ich das so bauen, dass ich weniger schützen muss?” Sicherheit als Wertsteigerung – für Investoren, für Kunden und für das Unternehmen selbst. Und das kommuniziert man nicht mit Paragraphen, sondern in der Sprache des Gegenübers.

Der stärkste Teil dieser Folge ist der menschlichste. Franzi spricht über psychologische Sicherheit, über Fuck-Up-Freitage und den Mut, sich selbst als verwundbar zu zeigen, bevor ein Vorfall dies erzwingt. Wer wartet, bis ein Datenleck aufgetreten ist, um Vertrauen aufzubauen, hat zu lange gewartet. Resilienz entsteht nicht im Ernstfall. Sie entsteht im Alltag, in den kleinen Gesprächen und darin, wie Fehler im Unternehmen behandelt werden, wenn niemand zuschaut.

1. Mehr Tools bedeuten mehr Risiken, nicht weniger. Jedes zusätzliche Tool bringt Abhängigkeiten, Lieferanten und Aufmerksamkeit mit sich. Wer alles messen will, verliert den Blick fürs Wesentliche. Die bessere Strategie ist: weniger, dafür richtig.
2. Sicherheit lässt sich als Wertsteigerung verkaufen. Für Investoren bedeutet das Cashflow-Sicherung, Skalierbarkeit und ESG-Reporting. Für Kunden bedeutet es: Vertrauen, Bindung und geringere Abwanderungsrate. Wer die Sprache seines Gegenübers spricht, gewinnt.
3. Ein Security Review am Ende ist zu spät. Wer den CISO erst am Ende des Entscheidungsprozesses einbindet, hat Sicherheit als Kostenfaktor positioniert. Wer ihn früh einbindet, schafft Optionen und spart am Ende Kontrollen.
4. Psychologische Sicherheit ist kein Soft Skill, sondern eine Sicherheitsstrategie. Wer Fehler nicht ansprechen kann, meldet den Vorfall nicht. Wer den Vorfall nicht meldet, verliert wertvolle Zeit. Eine offene Fehlerkultur ist kein Nice-to-have.
5. Vertrauen muss aufgebaut werden, bevor es brennt. Im Ernstfall bleibt keine Zeit mehr für die Beziehungspflege. Wer vorher nicht investiert hat, steht im Ernstfall allein da. Resilienz ist das Ergebnis kontinuierlicher Arbeit und nicht das Ergebnis einer Krisenreaktion.

Jetzt abonnieren – und den nächsten Schritt nicht verpassen

Diese Folge ist für alle, die Security nicht nur als Technikthema, sondern als Führungsaufgabe verstehen. Abonniere „Follow the White Rabbit”, hinterlasse eine Bewertung und schicke die Folge an CISOs, CSOs und alle, die sich gerade in einem Transformationsprozess befinden.

Franziska Manco – VP Transformation & Governance / CSO, OneQrew | LinkedIn |

BSI - IT-Grundschutz

Agile Manifesto: Simplicity Principle

Amy Edmondson: The fearless organization: https://youtu.be/b395WrEQbeU?si=BtnriEvPgStgWgwm

Viele Unternehmen fragen sich, ob sie KI einsetzen dürfen. Die wichtigere Frage ist jedoch: Wie können sie dies verantwortungsvoll tun? In dieser Folge von „Follow the White Rabbit” spricht Lisa Fröhlich mit Georgia Voudoulaki. Die Rechtsanwältin ist AI Governance & Data Protection Strategist. Sie klärt über den rechtlichen Rahmen rund um Künstliche Intelligenz auf und erklärt, warum die meisten Unternehmen die falschen Kosten im Blick haben.

Georgia macht klar: Der EU AI Act verbietet KI nicht. Er schafft einen Rahmen. Wer diesen Rahmen jedoch ignoriert oder nur halb versteht, dem drohen nicht nur Bußgelder, sondern auch teure Doppelarbeit, Datenschutzkonflikte und Reputationsschäden. Es ist ein klassischer Fehler, DSGVO und AI Act aus verschiedenen Abteilungen heraus zu prüfen – einer, der Zeit kostet, Lücken erzeugt und das Projekt verteuert, noch bevor ein einziger Token geflossen ist. Hinzu kommen die systematisch unterschätzten Kosten: Schulungen, Monitoring, Vertragsprüfungen, Governance-Strukturen – und ja, auch 20 Prozent höhere Energiekosten für den Betrieb der Modelle.

Entscheidend ist nicht, welches Tool gerade gehyped wird, sondern ob es zur eigenen Wertschöpfung passt. Georgia plädiert für eine ehrliche Inventur: Welche Use Cases hat das Unternehmen? Wo ersetzt oder unterstützt KI sinnvoll? Und wann zieht man die Reißleine, wenn das Kosten-Nutzen-Verhältnis nicht stimmt? Gute AI-Governance beginnt nicht mit Technik. Sie beginnt mit dem Menschen.

1. Die falsche Frage kostet Geld. Entscheidend ist nicht die Frage „Darf ich KI einsetzen?”, sondern „Wie setze ich KI verantwortungsvoll ein?” Wer das nicht klärt, baut auf Sand.
2. DSGVO und AI Act gehören zusammen. Wer beide Regelwerke getrennt voneinander prüft, erzeugt Doppelarbeit, Lücken und Verzögerungen. Integrierte Governance-Prozesse sind kein Luxus, sondern ein Gebot der Effizienz.
3. Die versteckten Kosten werden systematisch unterschätzt. Schulungen, Monitoring, Energiekosten, Governance-Strukturen, Vertragsprüfungen – all das kommt on top zu den Lizenzkosten und wird in den meisten Business Cases schlicht vergessen.
4. KI ist ein Werkzeug, aber kein Entscheider. Nur weil ein Modell einen Output produziert, heißt das nicht, dass dieser stimmt. Menschliches Urteilsvermögen ist keine optionale Komponente, sondern Pflicht.
5. Wer keine Inventur macht, verliert die Kontrolle. Welche KI-Systeme nutzt mein Unternehmen? Viele können diese Frage nicht beantworten. Genau da fängt AI Governance an.

Jetzt abonnieren – und den Überblick behalten

Diese Folge ist Pflicht für alle, die KI in ihrem Unternehmen einführen, begleiten oder verantworten. Abonniere „Follow the White Rabbit”, hinterlasse eine Bewertung und schicke die Folge an alle, die gerade KI-Projekte planen, bevor sie das Geld ausgeben.

Georgia Voudoulaki – Rechtsanwältin, Senior Legal Counsel, AI Governance & Data Protection Strategist| LinkedIn

EU AI Act – Volltext (Verordnung EU 2024/1689)

Europäische Datenschutz-Grundverordnung (DSGVO)

BSI - Künstliche Intelligenz

Ein ehemaliger Mitarbeiter. Er ist schon seit zwei Jahren weg. Seine Berechtigung wurde nie entzogen. Es war weder ein Hack noch ein raffinierter Angriff – es war einfach nur ein Konto, das niemand abgeschaltet hat. Willkommen in der realen Welt des Identitätsmanagements! In dieser Folge von „Follow the White Rabbit” spricht Lisa Fröhlich mit Franziska Weiß, IAM-Evangelistin bei der Garancy AG, über das unspektakulärste und gleichzeitig wichtigste Fundament jeder Sicherheitsstrategie – und darüber, warum genau diese Unsichtbarkeit das eigentliche Problem ist.

Identitätsmanagement hat ein Imageproblem. Kein Mensch steht morgens auf und denkt sich: „Heute durchkämme ich mal das Active Directory.” Kein CISO präsentiert stolz die Statistik der gelöschten Altkonten. Und trotzdem reicht ein einziges kompromittiertes Konto. Im Schnitt bewegen sich Angreifer über 100 Tage unentdeckt in Systemen. Franziska erklärt, warum dies nicht nur ein IT-, sondern ein Organisationsproblem ist – und warum Verbote allein Schatten-IT erzeugen, aber keine Sicherheit. Der Ausweg ist kein Verbotskatalog, sondern ein pragmatischer Ansatz: Sichtbarkeit schaffen, Verantwortung klären, Rollen definieren.

Und dann kommen die KI-Agenten. Sie sind dynamisch, autonom und schwer zu kontrollieren – und vervielfachen in vielen Unternehmen gerade dabei, still und leise, die Komplexität. Anders als klassische Servicekonten lassen sie sich nicht einfach in Gruppen stecken oder mit Standardberechtigungen versehen. Wer jetzt noch nicht weiß, welche Identitäten in seiner Infrastruktur unterwegs sind, wird es bei KI-Agenten erst recht nicht wissen. Franziskas Botschaft ist klar: Wer das Fundament nicht kennt, dem stürzt das Dach ein.

1. Ein Konto reicht. Im Schnitt bewegen sich Angreifer über 100 Tage unentdeckt in Systemen – oft über ein übernommenes Konto, das längst hätte deaktiviert sein sollen. Identitätsmanagement ist kein Nice-to-have, sondern der erste Sicherheitsriegel.
2. Sichtbarkeit ist der erste Schritt. Bevor man etwas kontrollieren kann, muss man wissen, was vorhanden ist. Welche Konten existieren? Worauf haben sie Zugriff? Wer ist verantwortlich? Diese drei Fragen sind der Einstieg in jede saubere Identitätsstrategie.
3. Verbote erzeugen Schatten-IT und keine Sicherheit. Menschen wollen ihren Job machen. Wer sie zu sehr einschränkt, findet kreative Umwege – und diese liegen dann außerhalb jeder Kontrolle. Pragmatismus schlägt Überregulierung.
4. KI-Agenten sprengen das klassische Identitätsmodell. Sie lassen sich nicht in AD-Gruppen stecken, kommunizieren anders als Servicekonten und entstehen und verschwinden dynamisch. Wer jetzt keine Governance für menschliche Identitäten hat, wird sie für KI-Agenten erst recht nicht haben.
5. Identitätsmanagement ist Chefsache. NIS 2 schreibt es vor. Geschäftsführungen müssen geschult sein. Wer Sicherheit nicht von oben vorlebt, sollte sich nicht wundern, wenn Mitarbeitende ihr privates ChatGPT-Konto mit Unternehmensdaten füttern.

Jetzt abonnieren – und keine Folge mehr verpassen

Wenn dich diese Folge dazu gebracht hat, gedanklich in Richtung eurer IT-Abteilung zu laufen und zu fragen, wer eigentlich noch alles Zugriff auf was hat, dann ist das gut. Dann abonniere Follow the White Rabbit, hinterlasse eine Bewertung und schicke die Folge an alle, die gerade einen KI-Agenten deployen, bevor sie ihre Altkonten aufgeräumt haben.

Franziska Weiß – IAM Evangelist bei Garancy AG| LinkedIn |

OWASP: Broken Access Control – Top 10 Sicherheitsrisiken

Microsoft: Active Directory Best Practices

Irgendwo in deinem Unternehmen ist gerade ein KI-Agent aktiv. Vielleicht sogar mehrere. Eventuell hat eine Fachabteilung einen eingesetzt, ohne dass die IT-Security davon weiß. Vielleicht kommunizieren sie bereits mit anderen Agenten, sowohl intern als auch extern. Du hast keine Ahnung, was sie dabei austauschen. In dieser Folge von „Follow the White Rabbit” spricht Lisa Fröhlich mit Mirko Ross, dem Gründer von asvin und seit Jahrzehnten sozialisiertem Hacker, über die vielleicht dringlichste Frage der aktuellen KI-Debatte: Wie sichert man eigentlich Systeme ab, die nicht mehr deterministisch funktionieren?

Mirko kennt beide Seiten des Spiels: Als jemand, der KI-Systeme seit über sieben Jahren angreift, und als Unternehmer, der Cybersecurity Risk Modeling für die Verteidiger entwickelt. Seine Diagnose ist klar: Agentic AI bricht die klassische Perimeterlogik.

Zero Trust war die Antwort auf unkontrollierte Netzwerkzugriffe durch Menschen und Systeme, doch KI-Agenten entstehen und verschwinden dynamisch, kommunizieren in natürlicher Sprache statt über definierte Schnittstellen und lassen sich nicht einfach über Identitätsmanagement regeln.

Und dann ist da noch die Kostenfrage, die kaum jemand laut ausspricht. Die leistungsfähigsten Modelle – aktuell Mythos und GPT 5.6 – kosten pro Token ein Vielfaches gegenüber ihren Vorgängern, liefern aber vielleicht nur 20 bis 25 Prozent mehr Output. KI-Agenten optimieren nicht auf Wirtschaftlichkeit. Sie lösen die Aufgabe – egal, wie viel Rechenleistung sie dafür verbrauchen. Das Ergebnis: Unternehmen müssen vor Monatsende zum CFO rennen und erklären, warum das KI-Budget schon aufgebraucht ist.

Mirko erklärt, wie Model Routing und AI Gateways dieses Problem lösen können und warum sich das Know-how, das man bisher für gute Pentester brauchte, fundamental verändern wird.

1. Schatten-KI entsteht von unten, nicht von oben. Wenn Governance Agenten verbietet, die Leute ihre Deadlines aber damit schaffen, passiert es trotzdem – auf dem Privatlaptop und außerhalb jeder Kontrolle. Wer das ignoriert, hat nicht weniger Risiko, sondern nur weniger Sichtbarkeit.
2. Zero Trust funktioniert nicht für nicht-deterministische Systeme. KI-Agenten sind kurzlebig, dynamisch und kommunizieren in natürlicher Sprache – kein Identitätsmanagement der Welt war dafür ausgelegt. Das Konzept braucht eine grundlegende Erweiterung für die Ära der Agenten.
3. Den Nanny-Bot zu bauen schafft das nächste Angriffsziel. Jailbreaks und Prompt Injections funktionieren. Wer einen Agenten baut, der andere Agenten kontrolliert, muss Folgendes wissen: Ein versierter Angreifer wird einen Prompt finden, der das System in den „Do Anything Now“-Modus versetzt.
4. Das Patch-Fenster schrumpft von Tagen auf Minuten. KI-Systeme skalieren, Menschen nicht. Wer bisher dachte, drei Tage zum Patchen seien genug, muss mit Agentic AI auf der Angreiferseite bitter umdenken.
5. Model Routing ist die neue Pflichtdisziplin. Nicht jede Aufgabe erfordert das teuerste Modell. Eine einfache Schwachstellensuche im Code erfordert ein günstiges Modell. Eine vollständige Systemübernahme simulieren – dafür braucht man das Frontier Model. Wer das nicht routet, verbrennt das Token-Budget und muss sich dem CFO erklären.

Jetzt abonnieren – und keine Folge mehr verpassen

Diese Folge ist für alle, die KI einsetzen oder absichern müssen und wissen wollen, was dabei wirklich passiert. Abonniere „Follow the White Rabbit” auf deiner Lieblingsplattform, hinterlasse eine Bewertung und schicke die Folge an alle in deinem Netzwerk, die gerade an einer KI-Strategie arbeiten.

Mirko Ross – Gründer & CEO, asvin | KI-Sicherheitsexperte | LinkedIn | asvin.io

Anthropic: Project Glasswing & Claude Mythos

OWASP: Top 10 für LLM-Anwendungen & Prompt Injection

BSI: KI-Sicherheit und Zero Trust

Es hat einen Namen: Roboter-Mobbing. Roboter-Mobbing. Und es passiert gerade in Unternehmen, die glauben, ihr KI-Projekt laufe gut. Mitarbeitende, die um ihren Job oder ihre Macht fürchten, sabotieren das neue System – still, gezielt und ohne dass es jemand merkt. In dieser Folge von „Follow the White Rabbit” spricht Lisa Fröhlich mit Dr. Katharina von Knop. Die promovierte Philosophin und Politikwissenschaftlerin ist Gründerin von „Digital Trust Analytics”. Gemeinsam sprechen sie über die eigentliche Ursache des KI-Scheiterns in Unternehmen. Die Technik ist es fast nie.

Katharinas Ansatz beginnt nicht mit der Software, sondern mit einer Diagnose: Wo sitzen die Machtstrukturen? Wo die Ängste? Und wer hat am meisten zu verlieren? Auf dieser Grundlage überträgt sie die Maslow'sche Bedürfnispyramide auf KI-Projekte: vom ersten schlanken Use Case mit echtem Nutzen über transparente Regulatorik und eigene Qualitätssicherung bis hin zu Selbstwirksamkeit und echtem Zugehörigkeitsgefühl. Ihr klarster Ratschlag lautet: Qualitätssicherung niemals auslagern. Denn wer nicht selbst versteht, ob ein Fehler eine Halluzination, ein Data Drift oder ein gezielter Angriff ist, wird dem System nie wirklich vertrauen – und das spüren auch die Teams.

Dann wird es überraschend: Warum verlieren Pathologen messbar an Kompetenz, wenn KI zu viel übernimmt – und das bereits nach drei Wochen? Warum vertrauen Ältere der KI oft mehr als Jüngere? Und was hat ein Versicherungsunternehmen, das seine Prozesse komplett automatisiert hat, dabei übersehen? Am Ende gibt Katharina vier konkrete Tipps für alle, die KI nicht nur einkaufen, sondern wirklich verankern wollen. Diese Folge ist kein Technik-Talk. Sie ist Psychologie, Machtanalyse und Praxishandbuch in einem.

1. KI-Projekte scheitern an den Menschen, nicht an der Technologie. Bevor der erste Use Case startet, ist eine ehrliche Diagnose notwendig: Welche Machtstrukturen stehen dem Projekt im Weg? Der erste Schritt ist daher ein Gespräch und kein Deployment.
2. Vertrauen folgt einer Bedürfnispyramide. Zunächst muss echter Nutzen entstehen, dann folgt Sicherheit durch verständlich erklärte Regulatorik und schließlich Kontrolle durch eigene Teams. Wer Vertrauen verordnet, bekommt Roboter-Mobbing.
3. Qualitätssicherung gehört ins eigene Haus. Wer sie auslagert, gibt Kontrolle und Vertrauen ab. Nur wer selbst unterscheiden kann, ob ein Fehler Halluzination, Data Drift oder Angriff ist, schafft echte Berechenbarkeit und klare Verantwortlichkeit.
4. Den Menschen ändern wir nicht – die Systeme schon. Eine gute KI ist ein Coworker auf Augenhöhe, der kognitiv herausfordert. Kein Sternchen-Smiley-Affenarsenal, sondern Reziprozität. Aktive Interaktion verhindert Kompetenzverlust, der sonst schon nach drei Wochen messbar einsetzt.
5. Klein starten, transparent kommunizieren – und das dauerhaft. Schlanker Use Case statt Over-Engineering. MVP statt Perfektion. Und Kommunikation nicht als Kick-off-Folie, sondern als Dauerprozess betrachten. Das ist keine Empfehlung für Soft Skills, sondern die Voraussetzung dafür, dass KI überhaupt funktioniert.

Jetzt abonnieren – das KI-Special geht weiter!

Diese Folge ist Pflicht für alle, die KI nicht nur einführen, sondern im Unternehmen nachhaltig verankern wollen. Abonniere „Follow the White Rabbit”, hinterlasse eine Bewertung und schicke die Folge an Führungskräfte und Teams, die gerade mitten in einem KI-Projekt stecken oder kurz davor sind, eines zu starten.

Dr. Katharina von Knop – Philosophin, Politikwissenschaftlerin, Gründerin Digital Trust Analytics | Digital Trust Analytics

EU AI Act – Volltext (Verordnung EU 2024/1689)

BSI: Trustworthy AI – Leitlinien für vertrauenswürdige KI