Studie entlarvt Illusion: KI entlastet nicht, sondern führt zu Arbeitsverdichtung und Erschöpfung

Die Einführung von Künstlicher Intelligenz (KI) im öffentlichen Sektor verspricht Effizienz und Hilfe gegen Fachkräftemangel. Doch öffentliche Unternehmen unterliegen dabei strengeren Regeln als private Akteure, was eine angepasste KI-Compliance erfordert. Neben der EU-KI-Verordnung (in Kraft seit 01.08.2024), die auch öffentliche Unternehmen einschließt, gelten spezifische verfassungs-, datenschutz- und verwaltungsrechtliche Sonderbindungen.

Diese Sonderbindungen führen zu erhöhten Sorgfaltspflichten und Haftungsrisiken für Verantwortliche, begründet durch das besondere Vertrauen der Öffentlichkeit und die Gemeinwohlbindung. Ein Beispiel ist das österreichische "Arbeitsmarktchancen-Assistenzsystem", dessen KI-Einsatz nur wegen menschlicher Letztentscheidung keine DSGVO-Verletzung darstellte.

Die relevantesten Sonderbindungen sind:

• Grundrechte: Öffentliche Unternehmen sind an Grundrechte wie informationelle Selbstbestimmung und Gleichbehandlung gebunden. KI muss Diskriminierungen (Machine Biases) vermeiden.
• Rechtsstaatlichkeit: Erfordert Nachvollziehbarkeit und Erklärbarkeit staatlichen Handelns, auch bei KI-Entscheidungen, um "Black-Box"-Probleme zu vermeiden.
• Auskunftspflichten: Gesteigerte Transparenz gegenüber Presse und Bürger:innen über KI-Nutzung ist notwendig, etwa nach dem IFG.
• Datenverarbeitung & Datenschutz (Art. 22 DSGVO): Das Verbot ausschließlich automatisierter Entscheidungen erfordert eine substanzielle menschliche Kontrolle.

Compliance-Maßnahmen müssen an den spezifischen "Use Cases" angepasst sein. Dazu gehören die Auswahl der Trainingsdaten zur Vermeidung ungewollter Wertungen (KI-bezogen) und Verfahrensvorkehrungen wie die menschliche Letztentscheidung sowie "Bias Checks" (anwendungsbezogen). Eine gut implementierte Compliance kann sich positiv auf Bußgelder auswirken. Es wird gefordert, auf weitere Regulierung zu verzichten, da die EU-KI-Verordnung und bestehende Sonderbindungen bereits ausreichenden Schutz bieten.

Brian Merchants Artikel beleuchtet die Übersetzungsbranche, die laut einer Microsoft-Studie als "einzigartig verwundbar" durch KI gilt. Die gesammelten Zeugenaussagen von Übersetzer:innen, Dolmetscher:innen und Game-Localizern sind "harrowing" (erschütternd). Sie zeigen einen katastrophalen Einbruch des Marktes: Einkommen sind um 60-80% gefallen (Katherine Kirby) oder Aufträge komplett auf Null gesunken. Die Raten sind kollabiert (z.B. von 0,04€ auf 0,02€ pro Wort).

Ein zentrales Ergebnis der Berichte (u.a. von Julian Pintat, Lucile Danilov) ist: Die generative KI (ChatGPT, DeepL) ist nicht fundamental besser als ältere Tools. Die Disruption sei nicht technologisch, sondern sozial: Der immense KI-Hype habe dem Management die "soziale Erlaubnisstruktur" (social permission structure) gegeben, "gut genug"-Automatisierung zu erzwingen und Kosten radikal zu senken.

Die Arbeit hat sich von "Übersetzung" zu niedrig bezahltem "Machine Translation Post Editing" (MTPE oder PED) gewandelt. Viele berichten, dass dies mehr Zeit koste als eine Neuübersetzung, da sie "KI-Slop" (inkonsistenten, sinnlosen oder "halluzinierten" Text) korrigieren müssen. Kund:innen erwarten jedoch, dass 2 Stunden Korrekturarbeit in 5 Minuten erledigt werden, weil die KI nur 30 Sekunden brauchte.

Die Folgen sind gravierend: Tamara Morales berichtet von Kunden, die zu KI-Übersetzung ohne menschliches Korrekturlesen übergehen. Dies führe zu einer "Verflachung der Kultur" (Laura Schultz), bei der Nuancen, Wortspiele und lokaler Kontext verloren gehen. Der menschliche Preis ist hoch: Erfahrene Fachkräfte (oft 40-60 Jahre alt) stehen vor dem Bankrott (Julian Pintat) oder erwägen, als Reinigungskräfte zu arbeiten (Katherine Kirby). Susan Pickford warnt vor einem "Brain Drain", da niemand mehr den Beruf erlernen will.

​

  ​

Forscher warnen, dass WLAN-Signale, verstärkt durch Künstliche Intelligenz, zu einer mächtigen Überwachungstechnik werden. Der Karlsruher Professor Thomas Strufe erklärt, die Gefahr sei nicht das Abfangen von Daten, sondern die Identifizierung anonymer Personen durch ihre Bewegungsmuster – selbst wenn diese kein Smartphone bei sich tragen. Ein "digitaler Fingerabdruck", z.B. die individuelle Gangart, könne erstellt und mit anderen Daten (Kameras, Geräte-IDs) kombiniert werden, um lückenlose Bewegungsprofile zu erstellen, selbst durch Wände hindurch.

In einem Experiment am KIT gelang es Strufes Team, 197 Testpersonen allein durch ihre Bewegungsmuster im WLAN mittels KI mit über 99%iger Wahrscheinlichkeit wiederzuerkennen. Die Technik (Beamforming) nutzt unverschlüsselte Diagnosedaten, die Router und Geräte ständig austauschen.

Kommerzielle Anwendungen gibt es bereits: Die Sicherheitsfirma Verisure nutzt "Wi-Fi Vision" zur Erkennung von Eindringlingen in kameratoten Winkeln wie Schlafzimmern. Die Telekom plant "Wi-Fi Sensing" in Routern zu integrieren. Die Technologie ist so präzise, dass sie Puls und Atmung messen kann. Das US-Start-up Wayvee Analytics will damit in Supermärkten die "Kaufbereitschaft" von Kund:innen durch die Messung emotionaler Erregung (Herzschlag) analysieren; Kaufland ist interessiert.

Datenschützerin Meike Kamp warnt, dass eine Anonymisierung "eine aufwendige Aufgabe" sei. Strufe warnt vor einer Integration in 6G, die eine ständige Erfassung des öffentlichen Raums ermöglichen könnte.

Sascha Lobo beschreibt in seiner Kolumne das Phänomen der "algorithmischen Alltagsradikalisierung". Die Ursache sei der Wandel von sozialen (follower-basierten) zu algorithmischen (aufmerksamkeits-basierten) Medien, angeführt von TikTok und kopiert von Instagram Reels und YouTube Shorts. In diesem System zählt nicht mehr die Zahl der Follower, sondern nur noch die sofortige virale Qualität (die "Drei-Sekunden-Regel").

Dies habe zwei zentrale Folgen:

1. Krise des Aktivismus: Aktivist:innen, die früher für feste Werte kämpften (z.B. Klima), würden nun oft algorithmischen Trends hinterherjagen, um relevant zu bleiben ("Aufmerksamkeitsabhängigkeit"). Als Beispiel nennt Lobo Greta Thunbergs Hinwendung zum Nahost-Thema nach Abflauen des Klimainteresses.
2. Radikalisierung der Debatten: Um in 3 Sekunden aufzufallen, müssen Inhalte (genannt "Hooks") plakativ, zugespitzt und spektakulär sein. Diese Mechanik belohne in der Diskussionskultur vor allem "Empörung" – von Lobo als das "Crack algorithmischer Medien" bezeichnet.

Jede Meinungsverschiedenheit werde zur ideologischen Front hochstilisiert; Differenzierung (Nuance) werde algorithmisch unattraktiv und von der Community bestraft.

Lobo warnt, dass dies die Demokratie gefährde. Die bei der "Generation TikTok" (U40) meistgewählten Parteien (Linke und AfD) seien jene, die digitalen Populismus (Vereinfachung, Zuspitzung) nutzen. Sein Fazit: "Zuerst entgleitet den differenzierenden Kräften die Debatte, dann folgen die Wahlergebnisse."

Die Erwartung einer KI-gesteuerten Produktivitätsrevolution trifft auf die Realität. Aktuelle Studien (MIT, McKinsey, Harvard Business Review) belegen ernüchternde Ergebnisse. Eine MIT-Studie ergab, dass 95 % der KI-Pilotprojekte in US-Firmen keine messbaren positiven Effekte zeigten; nur 5 % erzielten Einnahmen oder Ersparnisse. Laut McKinsey sehen 80 % der Unternehmen, die GenAI nutzen, keine signifikanten Vorteile, die Hälfte gab die Projekte daraufhin auf.

Ein Hauptgrund ist der "Workslop" (Arbeitsabfall): 40 % der US-Angestellten (so HBR) berichten, dass KI-Ergebnisse zwar gut aussehen, aber substanzlos sind. Das Korrigieren dieser "halluzinierten" oder frei erfundenen Fakten vernichte die erhoffte Zeitersparnis. Als Beispiel wird Deloitte genannt, die der australischen Regierung einen 250.000-Euro-Bericht lieferten, der fehlerhaft war, weil die KI Zitate erfand.

Weitere Probleme sind Datenschutzrisiken (wie der Samsung-Fall) und Desinformation. Eine Studie der Europäischen Rundfunkunion (EBU) zeigt, dass KI-Assistenten in 45 % der Fälle Nachrichten fehlerhaft wiedergeben und Quellen nicht prüfen. Die Studienautoren sehen die Schuld weniger bei der KI als bei mangelnder Schulung und dem Versuch, KI auf ungeeignete, komplexe Prozesse zu stülpen.

1. LLMs in Klinik und Ausbildung (Dr. Jonas Roos, Bonn): Die Zahl der KI-Publikationen hat sich seit 2010 verzehnfacht. In O & U werden LLMs wie ChatGPT für die Ausbildung (z.B. Erstellung interaktiver Fallstudien) und als klinische Unterstützung genutzt (z.B. Hilfe bei Differenzialdiagnosen, "Übersetzung" radiologischer Befunde). Auch ChatGPT-Vision (Bildanalyse) wird erforscht. Dr. Roos warnte jedoch eindringlich vor Halluzinationen und Fehlern: In 66 von 68 Studien wurden fehlerhafte Antworten gefunden. Sein Fazit: Eine fortschreitende Einbindung ist sinnvoll, aber eine generelle Einbindung in den Arbeitsalltag ist noch nicht möglich.

2. KI in der Sprechstundendokumentation (Dr. Tom Jansen, Köln): Ärzt:innen verbringen laut Jansen 61 Tage pro Jahr mit Dokumentation, ohne dass IT bisher Produktivität gebracht hätte ("Turning Point"). Er stellte eine KI-Software vor, die (mit Patientenzustimmung) das Sprechstundengespräch aufzeichnet, medizinisch relevante Inhalte extrahiert und automatisch Dokumentationen, Befundberichte oder Formulare (z.B. Rezepte, Überweisungen) erstellt. Eine Studie belegte eine Zeitersparnis von rund 30 %.

3. Der Patienten-Chatbot "OrthoChat" (Dr. Baur & Dr. Völker, Leipzig): Da Patienten oft unzuverlässige Antworten von ChatGPT erhalten, hat der Berufsverband (BVOU) einen eigenen Chatbot entwickelt. Der "OrthoChat" generiert seine Antworten ausschließlich aus den kuratierten, verlässlichen Inhalten der Website OrthInform. Der Bot wurde positiv validiert (außer bei der Antwortzeit) und dient als Hilfe zur Inhaltssuche, ersetzt aber nicht die ärztliche Beratung.

​

 Während Führungskräfte wie Amazons Beth Galetti (die 14.000 Jobs streicht) durch KI immense Produktivitätssteigerungen erhoffen, zeigt sich eine Kehrseite: KI bedroht nicht nur Jobs, sondern auch die Arbeitszufriedenheit der Angestellten, oft noch bevor es zur Kündigung kommt.

Sozialpsychologin Anja Chevalier warnt, dass der Einsatz von KI oft zu neuen Belastungen und höherem Stress führt. Eine Upwork-Studie (2.500 Teilnehmer:innen in USA, GB, AUS, CAN) bestätigt dies: 96 % der Führungskräfte erwarten Produktivitätssteigerung, aber 77 % der Arbeitnehmer:innen fühlen sich durch KI unproduktiver und gestresster.

Gründe dafür sind:

1. Zeitaufwand für Qualitätsprüfung: Das Überprüfen und Korrigieren von KI-generierten Informationen ("Workslop") braucht viel Zeit.
2. Lernkurve: Angestellte müssen sich erst mit den neuen Tools vertraut machen.
3. Kontrollverlust: Die Autonomie geht verloren, wenn KI Entscheidungsprozesse übernimmt. Dies widerspricht Hackman und Oldhams Studie von 1976, die Autonomie und Entscheidungsspielraum als Motivationsfaktoren hervorhebt.
4. Verlust an Ganzheitlichkeit & Vielfalt: Wenn KI Aufgaben übernimmt, bröckelt das Gesamtwerk eines Jobs, und weniger unterschiedliche Kompetenzen werden gefordert, was die Motivation mindert.

Die optimale Produktivität sei die, die lange anhält, so Chevalier. Tristan Eckert vom BPM bestätigt die schnelle Entwicklung von KI, sieht aber auch, dass Unternehmen vermehrt Trainings (Prompting, Datenschutz, Qualitätsprüfung) und KI-Guidelines anbieten. Er betont, dass Angestellte Raum für Experimente und Fehlern lernen brauchen, denn: "KI ist ein präziser Assistent, aber die Verantwortung bleibt menschlich."

Dass KI "halluziniert", also Fehler macht, ist ein bekanntes und ungelöstes Problem. Eine neue Studie der Europäischen Rundfunkunion (EBU) zeigt, wie oft das bei Nachrichten-Abfragen passiert: Jede dritte Antwort (ca. 37 %) der gängigen Chatbots (Copilot, ChatGPT, Perplexity, Gemini) enthält Fehler.

Das ist zwar eine Verbesserung im Vergleich zu einer früheren Studie (damals war es die Hälfte), aber 45 % aller Antworten enthielten mindestens einen Fehler. Das häufigste Problem (31 %) waren komplett erfundene Quellen, was die nötige Kontrolle durch Nutzende massiv erschwert. Besonders schlecht schnitt überraschenderweise Googles Gemini ab.

Der Grund für die Fehler liegt in der Funktionsweise der Modelle:

1. Fehlendes Verständnis: Die KI versteht Konzepte nicht. Sie verknüpft Wissen nur basierend auf gelernten Wahrscheinlichkeiten und der Nähe von Informationen zueinander.
2. Falsche Verknüpfung: Dies kann dazu führen, dass eine KI einen Gerichtsreporter zum Mörder macht, nur weil sein Name im Artikel nah am Verbrechen genannt wurde – die KI versteht die Beziehung der Wörter nicht.
3. Kein Zählvermögen: Wenn eine KI die Anzahl der Buchstaben in einem Wort korrekt wiedergibt, liegt das daran, dass sie diese Information irgendwo gelesen hat, nicht daran, dass sie selbst zählen kann.

Eine aktuelle Umfrage (Sinus-Jugendstudie) im Auftrag der Barmer zeigt, dass die Sorge junger Menschen (14-17 Jahre) vor den Auswirkungen der KI auf den Arbeitsmarkt zunimmt. Die Befragung fand im Herbst 2024 statt.

Das Kernergebnis: 22 Prozent der Jugendlichen sehen ihre berufliche Zukunft durch KI-Tools gefährdet. Das ist ein deutlicher Anstieg im Vergleich zum Vorjahr (17 Prozent).

Diese Sorge ist in technischen Branchen teils höher:

• Elektrotechnik: 27 % der Befragten mit diesem Berufswunsch haben Angst vor den Auswirkungen.
• Produktion: 24 %
• IT: 23 %

Gleichzeitig zeigt die Studie: Die überwältigende Mehrheit (69 Prozent) der Jugendlichen sieht aktuell noch keine oder nur wenig Gefahr durch KI für ihre berufliche Zukunft.

Die Studienverantwortlichen weisen jedoch darauf hin, dass dieser Mangel an Sorge auch daran liegen könnte, dass viele Jugendliche noch keine genaue Vorstellung von den (negativen) Einflüssen der KI haben oder das Gefahrenpotenzial aus "Selbstschutz" geringer einschätzen.

Unternehmen, die voreilig Personal zugunsten von KI-Implementierungen abgebaut haben, besetzen diese Stellen oft stillschweigend wieder. Das berichtet The Register unter Berufung auf eine Analyse von Forrester.

Dies betrifft etwa die Hälfte der zuvor eingesparten Stellen. Die Neubesetzungen finden jedoch häufig im Ausland oder zu niedrigeren Löhnen statt.

Der Grund für die Kehrtwende:

• Viele KI-Einsätze führen zu "spektakulären Fehlern" und scheitern.
• In anderen Fällen ersetzt KI die menschlichen Arbeitskräfte gar nicht.
• Die Entlassungen basierten oft nur auf den Zukunftsaussichten von KI, nicht auf der Realität.

Bereits 55 Prozent der Arbeitgeber sollen es bereuen, Mitarbeiter:innen wegen der erhofften KI-Einsparungen entlassen zu haben. Eine Mehrheit (57 Prozent) der für KI verantwortlichen Manager:innen erwartet für 2026 sogar einen Anstieg der Mitarbeiterzahl.

Eine Ausnahme wird im Personalwesen (HR) gesehen, wo KI-Systeme (z.B. im Bewerbermanagement) menschliche Angestellte eher ersetzen könnten.

Die Analyse warnt, dass viele Unternehmen KI-Produkte nur anschaffen werden, um den Anschein von KI-Bereitschaft zu erwecken, auch wenn sie echte Technologie nicht von "Vaporware" (leeren Versprechungen) unterscheiden können. Ein Bericht von Gartner stützt dies: Dort wird erwartet, dass bis Ende 2027 bis zu 40 Prozent der KI-Projekte in Unternehmen wieder eingestellt werden.