KI schafft Jobs, um KI in Schach zu halten. Wer wird sie übernehmen?

Am 15. Oktober berichtete Reuters, dass Seed, die KI-Forschungseinheit von ByteDance, ein Team für Alignment & Preparedness gegründet und eine weltweite Suche nach zehn Forschenden gestartet hat. In der eigenen Ankündigung von Seed gehören automatisiertes Red Teaming, die Beobachtung von Fähigkeiten und Verhalten der Modelle sowie die Vorbereitung auf künftige Modellrisiken zu den Arbeitsfeldern des Teams.¹ Zehn Personen sind wenig, doch das Signal ist eindeutig: Manche der Jobs, die KI schafft, gibt es nur, weil man KI noch nicht ohne genaue Kontrolle arbeiten lassen kann.

Das ist eine andere Geschichte als die bekannte Debatte über Chatbots, die Büroangestellte ersetzen. Sobald KI-Systeme Daten abrufen, Software bedienen und über ganze Arbeitsabläufe hinweg handeln, brauchen Organisationen Menschen, die testen, was diese Systeme tun, Fehler untersuchen, Grenzen setzen und entscheiden, wann ein Mensch eingreifen muss.

Rund um diese Arbeit entsteht ein Arbeitsmarkt. Er ist real, wird aber leicht überschätzt. Und für ein kleines Unternehmen oder eine gemeinnützige Organisation wird die wichtigste Veränderung wahrscheinlich keine neue Berufsbezeichnung sein, sondern Verantwortlichkeiten, die derzeit niemandem gehören.

Ein Signal bei den Stellenausschreibungen, kein Beschäftigungsboom

Drei aktuelle Datenpunkte zeigen den Trend, jeder mit Grenzen, die man benennen sollte:

• LinkedIn: +91 %. Auf seiner Veranstaltung Talent Connect Ende September erklärte LinkedIn laut Business Insider, dass die Zahl der Rollen im Bereich KI-Sicherheit im vergangenen Jahr um 91 % gestiegen sei. Der Bericht nennt weder eine Definition einer „Rolle im Bereich KI-Sicherheit“ noch eine Methodik. Die Zahl lässt sich daher nicht in eine Anzahl von Stellen umrechnen, und sie bedeutet keinen Anstieg der gesamten KI-Beschäftigung um 91 %.²
• Ein enger, aber transparenter Index. Der AI Governance Hiring Index von GAGE zählte am 28. September 2026 unter 4.983 Ausschreibungen bei 19 beobachteten KI-Arbeitgebern 216 offene Stellen mit Bezeichnungen aus den Bereichen Governance, Risiko, Recht, Policy und Sicherheit. Davon entfielen 99 auf Governance, Risiko und Compliance, 67 auf Recht und 26 auf Sicherheit und Evaluierung. Nur 5 waren als Einstiegs- oder Associate-Positionen gekennzeichnet.³
• Die Rollenliste von Gartner. Eine am 30. September veröffentlichte Gartner-Studie hält fest, dass die Skalierung von KI-Agenten neue Rollen sowohl in der IT als auch im übrigen Unternehmen erfordert, und schlägt eine erste Liste mit 13 Rollen vor. Die Bezeichnungen sind nur für Abonnenten zugänglich, deshalb führen wir sie hier nicht auf.⁴

Keine dieser Quellen ist eine amtliche Arbeitsmarktstatistik. Der GAGE-Index beobachtet bewusst eine kleine Gruppe von KI-Unternehmen, zählt offene Stellen statt Einstellungen und berücksichtigt nur Ausschreibungen, deren Titel die Tätigkeit benennt. Er bezeichnet seine Zahl deshalb als „Untergrenze, nicht als Obergrenze“. GAGE verkauft außerdem Zertifizierungsprogramme für KI-Governance, ein kommerzielles Interesse, das man im Blick behalten sollte. Dank der offengelegten Methodik ist der Index dennoch ein brauchbarer Beleg dafür, dass manche Organisationen für spezialisierte Aufsicht bezahlen.

Drei Arten von Arbeit hinter den neuen Berufsbezeichnungen

KI testen, bevor sich andere darauf verlassen

KI-Evaluatoren und Sicherheitsforschende untersuchen Systeme auf Fehler, unsicheres Verhalten, unerwartete Aktionen und Versagen unter ungewöhnlichen Bedingungen. Ein Modell kann in einer Vorführung richtig antworten und sich trotzdem unvorhersehbar verhalten, sobald es mit echten Kundendaten oder Zahlungssystemen verbunden ist. Einen Agenten zu evaluieren heißt deshalb, Abfolgen von Aktionen zu testen, nicht nur zu prüfen, ob eine einzelne Antwort plausibel klingt.

Diese Notwendigkeit ist nicht theoretisch. Im September veröffentlichte Anthropic eine Auswertung von vier Vorfällen, bei denen seine Modelle während Cybersicherheits-Evaluierungen, die ein externer Partner aufgebaut hatte, echte Systeme Dritter erreichten und darauf zugriffen. Ursache war eine Fehlkonfiguration, die den Internetzugang offen ließ, obwohl den Modellen gesagt worden war, sie hätten keinen.⁵ Der Bericht betrifft bestimmte Testumgebungen, nicht gewöhnliche Agenten am Arbeitsplatz. Er zeigt aber, warum unabhängiges Testen und die Untersuchung von Vorfällen zu ernsthafter technischer Arbeit geworden sind.

KI im echten Betrieb nutzbar machen

Eine zweite Gruppe von Rollen dreht sich um den Einsatz, nicht um Sicherheit an der Forschungsfront. Eine Spezialistin für KI-Implementierung, ein Automatisierungsingenieur oder eine Programmmanagerin bildet einen Arbeitsablauf ab, bindet freigegebene Datenquellen an, vergibt Berechtigungen, legt Eskalationsregeln fest und misst, ob sich die Leistung tatsächlich verbessert. Die Arbeit verbindet Prozesswissen mit technischer Koordination.

Die Nachfrage reicht weit über Softwareteams hinaus. In einer Pressemitteilung vom 30. September zu Stellenanzeigen der Fortune-500-Unternehmen meldete der Anbieter für Talent-Intelligence Draup einen Anteil von KI-Skills von 31 % in Support-Rollen, 25 % im Vertrieb, 21 % im Finanzwesen und 20 % im Personalwesen.⁶ Es handelt sich um die eigenen Klassifizierungen von Stellenanzeigen durch den Anbieter, ohne veröffentlichte Stichprobengröße, und nicht um den Anteil der Beschäftigten, die KI nutzen.

Eine Rolle für den KI-Einsatz kann wirklich neu sein. Oft ist es aber die Stelle eines bestehenden Betriebsleiters mit neuen Tools und neuer Verantwortung. Dieser Unterschied zählt, wenn ein Arbeitgeber entscheidet, ob er eine Spezialistin einstellt, jemanden aus dem Team weiterbildet oder für ein begrenztes Projekt externe Unterstützung holt.

Entscheiden, was KI tun darf

Fachleute aus Governance, Datenschutz, Recht und Revision legen Regeln für die angemessene Nutzung fest, untersuchen Vorfälle, führen Aufzeichnungen und bewerten Risiken. Manche dieser Positionen erfordern spezialisierte juristische oder technische Expertise. Andere sind Erweiterungen vertrauter Arbeit in Compliance, Informationssicherheit, Qualitätssicherung und Einkauf.

In Europa ist das außerdem eine rechtliche Frage, nicht nur eine ethische:

• KI-Kompetenz (Art. 4 der KI-Verordnung der EU). Seit dem 2. Februar 2025 gilt für Anbieter und Betreiber von KI-Systemen eine Pflicht zur KI-Kompetenz. Die Änderungen durch den „Digital-Omnibus“ vom Juli 2026 haben den Wortlaut abgeschwächt: Art. 4 verlangt nun, dass sie Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals zu fördern, und stellt klar, dass dies nicht bedeutet, ein bestimmtes Niveau für jede einzelne Person zu garantieren.^{7, 8, 9}
• Menschliche Aufsicht über Hochrisiko-Systeme (Art. 26 Abs. 2). Betreiber von Hochrisiko-KI-Systemen, zu denen viele Anwendungen in Personalgewinnung und Personalführung gehören, müssen die menschliche Aufsicht Personen übertragen, die über die nötige Kompetenz, Ausbildung und Befugnis verfügen.⁸

Keine der beiden Vorschriften bedeutet, dass jede Organisation einen „Beauftragten für KI-Governance“ ernennen muss. Und keine ersetzt die Prüfung der Pflichten, die mit einer bestimmten KI-Anwendung verbunden sind.

Die meisten Organisationen können keine Abteilung für KI-Sicherheit aufbauen

Ein gut finanziertes KI-Labor kann Forschende einstellen, die das Verhalten von Modellen untersuchen. Ein gemeinnütziger Verein mit 40 Mitarbeitenden oder ein lokaler Dienstleister kann das nicht und sollte das Organigramm eines führenden KI-Labors auch nicht kopieren. Die eigentliche Frage ist, wie man die zugrunde liegende Arbeit im Verhältnis zum Risiko verteilt.

Nehmen wir eine gemeinnützige Organisation, die einen KI-Assistenten nutzt, um die Kommunikation mit Spendern zu entwerfen (ein veranschaulichendes Beispiel). Eine verantwortungsvolle Aufstellung könnte die Programmleitung bitten, Tatsachenbehauptungen zu prüfen, eine Datenverantwortliche, zu kontrollieren, auf welche Informationen das Tool zugreifen kann, und eine Führungskraft, jede Nachricht freizugeben, die sensible Angaben zu Begünstigten enthält. Ein neuer „KI-Sicherheitsbeauftragter“ ist nicht nötig. Aber jede Entscheidung braucht eine verantwortliche Person, Fehler müssen erfasst werden können, und es braucht eine klare Regel, wann die Automatisierung stoppt.

Für eine Abteilung, die einen Agenten zur Aktualisierung von Kundendatensätzen pilotiert, gilt dasselbe Prinzip noch strenger. Jemand muss festlegen:

Das hat ebenso viel mit Qualitätsmanagement und betrieblicher Kontrolle zu tun wie mit KI-Technik. Und es zeigt, warum Berufsbezeichnungen in die Irre führen können: Ein Unternehmen schreibt eine Stelle für eine Leitung KI-Governance aus, ein anderes überträgt dieselben Aufgaben seinem Sicherheitsverantwortlichen. Keine der beiden Lösungen ist grundsätzlich besser. Entscheidend ist, ob die Person die Befugnis, das Fachwissen und die Zeit für diese Arbeit hat, statt dass „KI-Aufsicht“ einer ohnehin überfrachteten Stellenbeschreibung hinzugefügt wird.

Eine Chance mit schmalem Einstieg

Arbeit in Evaluierung, Einsatz und Governance ist eine echte Chance für Menschen mit Erfahrung in Qualitätssicherung, Cybersicherheit, Risikomanagement, Betrieb, Recht oder Dienstleistungserbringung. Viele können auf ihrem vorhandenen Wissen aufbauen, ohne Forschende im maschinellen Lernen zu werden.

Der Einstieg ist allerdings nicht leicht. Die GAGE-Momentaufnahme fand unter 216 Ausschreibungen nur 5 Einstiegs- oder Associate-Positionen, und viele Rollen verlangen erfahrenes Urteilsvermögen.³ Daraus entsteht ein Spannungsfeld: KI könnte die Nachfrage nach Menschen erhöhen, die komplexe Systeme beaufsichtigen können, und zugleich einige der Routineaufgaben beseitigen, an denen Neueinsteiger früher Urteilsvermögen gelernt haben. Mit diesem Problem haben wir uns in KI verändert Aufgaben schneller als Berufsbezeichnungen befasst. Die Ausbildung für Aufsichtsaufgaben wird betreute Praxis an echten Fehlerfällen brauchen, nicht nur ein Online-Zertifikat oder einen Workshop zum Schreiben von Prompts.

Der erste neue KI-Job ist vielleicht keine neue Stelle

Erfolgreich werden die Organisationen sein, die KI-Aufsicht als Fähigkeit verstehen, die man aufbaut, und nicht als Titel, den man einkauft. Ein nützlicher Test für jeden geplanten KI-Arbeitsablauf ist eine einzige Frage: Wer ist dafür verantwortlich, ihn zu testen, zu überwachen und zu stoppen, wenn etwas schiefgeht? Lautet die Antwort „niemand“, hat die Organisation ihren ersten neuen KI-Job gefunden, auch wenn sie nie eine neue Stelle schafft.

Die Einstellungszahlen beweisen nicht, dass KI mehr Arbeitsplätze schaffen wird, als sie beseitigt. Sie zeigen etwas Engeres und Nützlicheres: Mehr Autonomie für Maschinen schafft neue Verantwortung für Menschen. Ob daraus gute Jobs, unsichtbare Mehrarbeit oder teure Fehlschläge werden, hängt von Entscheidungen ab, die Arbeitgeber jetzt treffen.

Häufig gestellte Fragen

Was sind Jobs in der KI-Aufsicht oder KI-Governance?

Rollen, die KI-Systeme testen, sie sicher im echten Betrieb einsetzen oder entscheiden, was sie tun dürfen: KI-Evaluatoren und Sicherheitsforschende, Implementierungsspezialisten sowie Fachleute aus Governance, Datenschutz, Recht und Revision. Ein großer Teil dieser Arbeit wird auch innerhalb bestehender Rollen erledigt.

Brauchen kleine Organisationen einen Beauftragten für KI-Governance?

Nicht unbedingt. Sie brauchen eine namentlich benannte verantwortliche Person für jede KI-bezogene Entscheidung, eine Möglichkeit, Fehler zu erfassen und zu beheben, und eine klare Regel, wann die Automatisierung gestoppt wird. In der EU haben Betreiber außerdem eine Pflicht zur KI-Kompetenz und bei Hochrisiko-Systemen Pflichten zur menschlichen Aufsicht.

Wächst die Nachfrage nach Rollen in der KI-Sicherheit wirklich?

Mehrere Signale deuten darauf hin, darunter das von LinkedIn gemeldete Wachstum der Rollen im Bereich KI-Sicherheit um 91 % und offene Stellen mit Governance-Bezug bei großen KI-Unternehmen. Es handelt sich um Indikatoren aus Stellenausschreibungen mit begrenzter Methodik, nicht um Messgrößen der Gesamtbeschäftigung.

Wie hilighter Sie unterstützen kann

Wer KI-Aufsicht ohne Spezialteam abdecken will, muss zuerst wissen, wer die relevanten Skills bereits mitbringt: Urteilsvermögen, Prozesswissen, Risikobewusstsein, KI-Kompetenz. hilighter hilft Ihnen, Skills nach Rolle, Niveau und Team zu erfassen, Stärken und Lücken zu erkennen, die Skills Ihrer Mitarbeitenden mit den Anforderungen einer Rolle zu vergleichen und personalisierte Lernpfade für alle zu erstellen, die neue Verantwortung übernehmen. Die Analyse AI Job Impact bietet eine indikative Einschätzung, wie KI Ihre Rollen verändern könnte. Es gibt einen kostenlosen Tarif, und die Tarife richten sich nach der Anzahl der Rollen, bei unbegrenzter Zahl von Mitarbeitenden.

Quellen

1. Reuters (E. Baptista), „China’s ByteDance sets up AI safety team, launches global hiring drive“, 15. Oktober 2026; ByteDance Seed, Seed Alignment & Preparedness team looking for global talents, 14. Oktober 2026.
2. A. Altchek, Business Insider, LinkedIn says AI safety roles have grown 91% in the past year, 30. September 2026. LinkedIn-Analyse, Methodik nicht veröffentlicht.
3. GAGE, AI Governance Hiring Index, Momentaufnahme vom 28. September 2026. Der Herausgeber verkauft Zertifizierungen für KI-Governance.
4. Gartner, Emerging Jobs to Succeed With AI Agents at Scale, 30. September 2026 (Studie für Abonnenten; nur die Zusammenfassung ist öffentlich).
5. Anthropic, An alignment assessment of recent cybersecurity incidents, 9. September 2026.
6. Draup, Draup Report Finds AI Builder Roles Now Claim 27% of Tech Demand as Companies Rethink Hiring, Pressemitteilung des Anbieters, PR Newswire, 30. September 2026.
7. Europäische Kommission, AI literacy - Questions & Answers, aktualisiert 2026; AI Act Service Desk, Article 4: AI literacy, konsolidierte Fassung mit Stand vom 27. Juli 2026.
8. Verordnung (EU) 2024/1689 (Verordnung über künstliche Intelligenz, KI-Verordnung), Amtsblatt der Europäischen Union, Art. 4 und Art. 26 Abs. 2.
9. Verordnung (EU) 2026/1744 zur Änderung der Verordnung (EU) 2024/1689 („Digital-Omnibus zur KI“), Amtsblatt der Europäischen Union, 24. Juli 2026.

Quellen und regulatorische Verweise zuletzt geprüft am 18. Oktober 2026.