Großbritannien wird KI-Geräte lebenslang regulieren. Nach der Markteinführung werden Mitarbeiter für das Modell eingestellt.

Großbritannien hat entschieden, dass ein KI-Medizinprodukt mit seiner Zulassung noch nicht fertiggestellt ist. Am 6. Oktober 2026 hat die Regierung alle 44 Empfehlungen der Nationalen Kommission zur Regulierung von KI im Gesundheitswesen angenommen, und die Richtung ist klar: Weniger Gewicht auf die einmalige Bewertung vor der Markteinführung, mehr auf die Überwachung der Leistung eines Modells, solange es im Einsatz ist. Wenn Sie ein Unternehmen im Bereich Gesundheits-KI leiten, bedeutet dies, dass die Modellleistung nach der Markteinführung in den Verantwortungsbereich einer namentlich benannten Person fällt. In den meisten Stellenbeschreibungen für den ersten „Head of AI“, die ich sehe, wird dies nicht erwähnt. Legen Sie vor der Einstellung fest, wer nach der Markteinführung für das Modell verantwortlich ist, und nehmen Sie dies in die Stellenbeschreibung auf.

Die wichtigsten Erkenntnisse

• Am 6. Oktober 2026 nahm die britische Regierung alle 44 Empfehlungen der von der MHRA einberufenen Nationalen Kommission zur Regulierung von KI im Gesundheitswesen an und verpflichtete sich zu einem lebenszyklusbasierten Ansatz für KI-Medizinprodukte.
• Rechtlich ändert sich heute nichts: Die MHRA plant, bis Dezember 2026 einen Leitlinienentwurf zu vorab festgelegten Änderungskontrollplänen und bis zum Frühjahr 2027 einen Fahrplan für die Umsetzung vorzulegen.
• Die USA und die EU bewegen sich in die gleiche Richtung – durch die endgültigen Leitlinien der FDA zu Änderungskontrollplänen und die im EU-KI-Gesetz festgelegte Überwachungspflicht nach dem Inverkehrbringen.
• Gut dokumentierte Fälle aus dem Krankenhausalltag zeigen, warum: Ein weit verbreitetes Sepsis-Modell blieb in einem Gesundheitssystem weit hinter den Angaben seines Entwicklers zurück und musste in einem anderen System deaktiviert werden.
• Die Führungskraft, die Sie als Nächstes einstellen, sollten Sie danach beurteilen, wie sie ein Modell nach der Markteinführung weiterführt – und nicht nur danach, wie sie es aufbaut.

Was Großbritannien tatsächlich beschlossen hat

Die Kommission wurde im September 2025 von der Medicines and Healthcare products Regulatory Agency (MHRA) unter dem Vorsitz von Professor Alastair Denniston eingerichtet und legte am 10. September 2026 ihren Bericht vor, nachdem sie Aussagen von mehr als 12.000 Personen gesammelt hatte (MHRA-Pressemitteilung vom 10. September 2026). Ihr zentraler Vorschlag ist die stufenweise Zulassung: Ein neues Modell wird unter strenger Aufsicht und mit strengen Sicherheitsvorkehrungen eingeführt und erhält eine umfassendere Zulassung, sobald es seine Sicherheit in der Praxis unter Beweis stellt. Die MHRA vergleicht dies mit den „L“-Schildern von Fahrschülern.

In der am 6. Oktober veröffentlichten Stellungnahme der Regierung werden alle Empfehlungen angenommen. Im Vorwort des Ministers schreibt der Abgeordnete James Frith: „Das Vereinigte Königreich braucht einen neuen Ansatz für die Regulierung von KI-Produkten im Gesundheitswesen, der verhältnismäßig ist und sich an Risiken sowie am Lebenszyklus orientiert“ (Stellungnahme der Regierung, MHRA, 6. Oktober 2026). Für ein Unternehmen, das KI-Produkte entwickelt, sind fünf Verpflichtungen von besonderer Bedeutung:

• Änderungskontrolle. Die MHRA wird bis Dezember 2026 einen Leitlinienentwurf zu vorab festgelegten Änderungskontrollplänen veröffentlichen, die es einem Hersteller ermöglichen, im Voraus zu vereinbaren, wie sich ein Modell ändern darf (Empfehlung 6).
• Marktüberwachung nach dem Inverkehrbringen. Die Behörde wird ihre bestehenden Überwachungsanforderungen durch ein Instrumentarium für die laufende Überwachung ergänzen (Empfehlung 17).
• Abhängigkeiten. Den Herstellern wird mitgeteilt, welche Angaben sie zu den Allzweckmodellen machen müssen, auf denen ihre Produkte basieren (Empfehlung 8).
• Rückverfolgbarkeit. Die Leitlinien werden sich auf die vorgeschriebenen eindeutigen Produktkennungen beziehen, damit jede Version rückverfolgt werden kann (Empfehlung 20).
• Durchsetzung. Die MHRA wird strengere Durchsetzungsmaßnahmen prüfen, darunter zivilrechtliche Sanktionen, die Geldstrafen ermöglichen würden (Empfehlung 22).

Die meisten davon enthalten denselben Zeitplan: „Weitere Einzelheiten sollen bis zum Frühjahr 2027 bekannt gegeben werden.“ Reuters berichtete, dass bis Ende 2026 ein Entwurf für einen Umsetzungsplan erwartet wird und dass die MHRA eine dritte Phase ihrer „AI Airlock“-Sandbox einleiten wird, deren Schwerpunkt auf der Überwachung nach dem Inverkehrbringen liegt (Reuters, 6. Oktober 2026). Der Geschäftsführer der MHRA, Lawrence Tallon, erklärte gegenüber Reuters: „Wir treten in eine weitaus ausgefeiltere und komplexere Ära der KI als Medizinprodukt ein.“

Es handelt sich also eher um eine Orientierungshilfe als um ein Regelwerk. Was dies für ein bestimmtes Produkt bedeutet, ist eine Frage, die ein Rechtsberater klären muss. Was dies für die Personalbeschaffung bedeutet, ist klarer, und Sie können bereits jetzt entsprechend handeln.

Warum das Ausführen eines Modells eine Aufgabe und keine Funktion ist

Die Argumente für eine Lebenszyklusregulierung stützen sich auf ein Problem, das Krankenhäuser bereits am eigenen Leib erfahren haben. Im Jahr 2021 testeten Forscher von Michigan Medicine das „Epic Sepsis Model“, eines der in den USA am häufigsten eingesetzten klinischen Prognosetools, anhand von 38.455 Krankenhausaufenthalten. Es erreichte eine Fläche unter der Kurve von 0,63, gegenüber 0,76–0,83 in der Dokumentation des Entwicklers, und bei seinem Alarmschwellenwert übersah es 67 % der Sepsis-Fälle, während es 18 % aller Krankenhausaufenthalte als verdächtig markierte (Wong et al., JAMA Internal Medicine, Juni 2021). Die Autoren führten einen Teil der Diskrepanz auf die Art und Weise zurück, wie der Zeitpunkt der Vorhersage gemessen wurde – und genau darum geht es: Wie ein Modell nach seiner Einführung bewertet wird, entscheidet darüber, was man von ihm hält.

Dann veränderte sich die Patientengruppe. Im April 2020 schaltete das Krankenhaus der University of Michigan dasselbe Modell ab, da pandemiebedingte Veränderungen der Patientenmerkmale zu falschen Warnmeldungen führten (Finlayson et al., New England Journal of Medicine, Juli 2021). In 24 US-Krankenhäusern stiegen die täglichen Sepsis-Alarme zu Beginn der Pandemie um 43 %, während die Patientenzahlen um 35 % zurückgingen (Michigan Medicine zu einer Studie in JAMA Network Open, Dezember 2021). Der Finlayson-Brief, der laut OpenAlex mehr als 800 Mal zitiert wurde, empfiehlt Organisationen, „einen Lenkungsausschuss mit multidisziplinärem Fachwissen zum KI-System und dessen klinischer Anwendung einzurichten“.

Hierbei handelt es sich um Beispiele aus US-amerikanischen Krankenhäusern für ein Anbietermodell im klinischen Einsatz, nicht um ein reguliertes Medizinprodukt eines Start-ups. Betrachten Sie sie daher eher als Veranschaulichung des Mechanismus und nicht als Prognose für Ihr Produkt. Der Mechanismus ist jedoch derselbe. Patienten, Arbeitsabläufe und vorgelagerte Daten ändern sich nach der Markteinführung, und jemand muss dies bemerken, entscheiden und handeln. Im Rahmen der stufenweisen Zulassung im Vereinigten Königreich werden das Erkennen und Handeln auch darüber entscheiden, wie sich ein Produkt den Weg von der vorläufigen Zulassung bis zur vollständigen Zulassung bahnt.

Die USA und die EU bewegen sich in die gleiche Richtung

Wenn Sie auf mehr als einem Markt verkaufen, handelt es sich hierbei nicht um eine britische Besonderheit, die separat eingeplant werden muss. Die FDA hat am 4. Dezember 2024 ihre Leitlinien zu vorab festgelegten Änderungskontrollplänen (PCCP) für KI-fähige Gerätesoftware fertiggestellt; ein solcher Plan legt die vom Hersteller beabsichtigten Änderungen, das Protokoll zu deren Umsetzung sowie eine Bewertung ihrer Auswirkungen fest (Transkript des FDA-CDRH-Webinars zu den endgültigen PCCP-Leitlinien, Januar 2025). Im September 2025 bat die FDA um öffentliche Stellungnahmen dazu, wie die Leistung von KI-gestützten Medizinprodukten in der Praxis gemessen und bewertet werden kann, einschließlich der Frage, wie Sponsoren Datenabweichungen erkennen und darauf reagieren (FDA-Aktenzeichen FDA-2025-N-4203, 30. September 2025).

In der EU verpflichtet Artikel 72 des KI-Gesetzes Anbieter von KI-Systemen mit hohem Risiko dazu, „ein System zur Überwachung nach dem Inverkehrbringen einzurichten und zu dokumentieren“, das während der gesamten Lebensdauer des Systems Leistungsdaten erfasst und analysiert (Verordnung (EU) 2024/1689, Artikel 72). Für in Medizinprodukte integrierte KI gelten diese Verpflichtungen nun ab August 2028, wie wir in unserer Analyse zur Änderung der Frist im EU-KI-Gesetz dargelegt haben. Und die verschärften Vorschriften zur Überwachung nach dem Inverkehrbringen für alle Medizinprodukte gelten in Großbritannien bereits seit dem 16. Juni 2025 (MHRA, 15. Januar 2025).

Die Instrumente unterscheiden sich zwar, doch jede Aufsichtsbehörde erwartet vom Hersteller, dass er nachweisen kann, wie sich sein Modell im Einsatz verhält und wie es auf Leistungsänderungen reagiert.

Was sich dadurch in der Stellenbeschreibung ändert

Die meisten ersten Aufgabenbeschreibungen für KI-Leiter, die mir vorgelegt werden, beschreiben den Aufbau: eines Teams, einer Plattform, eines ersten Modells, einer Roadmap. Die britische Regelung fügt eine Reihe von Aufgaben hinzu, die sich auf den Betrieb beziehen. Meine Interpretation dessen, was die Rolle nun umfassen muss – was sich eher aus den oben genannten Verpflichtungen ableitet als aus Vorgaben der MHRA –, lautet wie folgt:

• Leistungsüberwachung. Auswahl der Kennzahlen, die Aufschluss darüber geben, ob das Modell im Einsatz weiterhin sicher und wirksam ist, sowie der Schwellenwerte, bei deren Erreichen eine Überprüfung ausgelöst wird.
• Änderungskontrolle. Erstellung und Einhaltung eines Änderungskontrollplans, dem die Aufsichtsbehörde im Voraus zustimmen kann, damit eine Nachschulung nicht jedes Mal eine neue Einreichung erfordert.
• Abhängigkeitsmanagement. Genau zu wissen, welche Basis- oder Drittanbieter-Modelle dem Produkt zugrunde liegen und was passiert, wenn sich eines davon ändert.
• Versionsrückverfolgbarkeit und Vorfälle. Die Möglichkeit, nachzuweisen, aus welcher Version das Ergebnis eines Patienten stammt, und die Zusammenarbeit mit Ihrem Verantwortlichen für regulatorische Angelegenheiten, wenn etwas schiefgeht.

Das alles fällt nicht in den Zuständigkeitsbereich einer einzigen Person. Ihr Qualitäts- und Regulierungsleiter ist für die Einreichung und die Meldung von Vorfällen verantwortlich. Die fachliche Beurteilung, ob ein Modell abgewichen ist und wie darauf zu reagieren ist, obliegt jedoch dem Leiter des KI-Bereichs. Wenn dies in der Stellenbeschreibung nicht ausdrücklich erwähnt wird, werden Sie jemanden einstellen, der im ersten Jahr hervorragende Arbeit leistet, für das zweite Jahr jedoch nicht gerüstet ist.

Auch die Zuständigkeiten müssen geklärt sein, bevor die Suche beginnt. Beim Aufbau eines Führungsteams für KI im Gesundheitswesen haben wir uns mit der Reihenfolge der Rollen befasst; die neuen Regeln werfen in dieser Reihenfolge eine zusätzliche Frage auf. Wenn Ihr CTO, Ihr KI-Leiter und Ihr Leiter für regulatorische Angelegenheiten jeweils davon ausgehen, dass einer der anderen für die Leistung nach der Markteinführung verantwortlich ist, ist letztendlich niemand dafür zuständig.

Wo kann man nach dieser Person suchen?

Die naheliegende Zielgruppe sind Personen, die bereits in Gesundheitsunternehmen für den Bereich KI verantwortlich sind; einige von ihnen haben Modelle im Rahmen eines Qualitätssystems in der Produktion eingesetzt. Viele jedoch nicht. Ein starker Forschungsleiter hat möglicherweise Modelle in eine klinische Validierungsstudie eingebracht und sie dann weitergegeben. Dies ist dieselbe Lücke zwischen Pilotphase und Produktion, die wir bereits bei der Einstellung von Führungskräften beschrieben haben, die KI operationalisieren – wobei nun eine Aufsichtsbehörde die zweite Phase überwacht.

Meiner Einschätzung nach lohnt es sich, drei miteinander verbundene Bereiche zu untersuchen. Der erste sind Führungskräfte im Bereich Machine Learning Operations, die bereits Modelle in anderen regulierten Umgebungen betrieben haben, in denen Überwachung und Prüfpfade bereits erwartet wurden; diesen Markt beschreiben wir auf unserer Seite zu MLOps und ML-Engineering. Die zweite Gruppe sind Spezialisten für KI-Governance und -Sicherheit, die wissen, wie man eine Überwachungspflicht in einen Prozess umsetzt; siehe dazu unsere Seite zu KI-Governance und verantwortungsvoller KI. Die dritte Gruppe sind Führungskräfte im Bereich Medizinproduktesoftware, die bereits im Rahmen eines Qualitätsmanagementsystems Produkte auf den Markt gebracht haben und inzwischen in den Bereich des maschinellen Lernens gewechselt sind. Keine dieser Gruppen passt für sich genommen perfekt, weshalb in der Stellenbeschreibung angegeben werden muss, welche Lücken Sie durch weitere Neueinstellungen schließen werden und welche nicht.

Die Frage, die ich dem Vorstellungsgespräch hinzufügen würde, ist einfach: Erzählen Sie mir von einem Modell, das Sie nach der Einführung neu trainieren, zurücksetzen oder deaktivieren mussten, und wie Sie das erkannt haben. Bewerber, die bisher nur Modelle erstellt haben, neigen dazu, mit einer Geschichte über die Erstellung des Modells zu antworten.

Was in diesem Quartal zu tun ist

1. Legen Sie fest, wer die Verantwortung trägt. Halten Sie schriftlich fest, wer heute für die Modellleistung nach der Markteinführung verantwortlich ist, und lassen Sie dies von Ihrem CTO, dem Leiter des KI-Bereichs (oder der Person, die diese Funktion ausübt) sowie dem Leiter der Regulierungsabteilung schriftlich bestätigen.
2. Überarbeiten Sie die Aufgabenstellung. Ergänzen Sie die Rollenbeschreibung um die Punkte „Überwachung“, „Änderungskontrolle“ und „Abhängigkeitsmanagement“, bevor Sie irgendjemanden – einschließlich uns – einweisen.
3. Testen Sie die Praxistauglichkeit, nicht nur die Entwicklungsfähigkeit. Stellen Sie jedem Finalisten die Frage „Weiter trainieren oder abbrechen?“ und fragen Sie nach einem konkreten Modell, einer Kennzahl und einer Entscheidung.
4. Merken Sie sich die Termine vor. Der Entwurf der britischen Leitlinien zu Änderungskontrollplänen soll bis Dezember 2026 vorliegen, der Fahrplan für die Umsetzung bis zum Frühjahr 2027. Wenn Sie ein Medizinprodukt entwickeln, fragen Sie Ihren Zulassungsberater, ob Phase 3 des „AI Airlock“-Verfahrens für Sie geeignet ist.
5. Lassen Sie sich bezüglich Ihres Produkts beraten. Ob für ein bestimmtes Produkt die stufenweise Zulassung oder das neue Überwachungsinstrumentarium gilt, ist eine Frage, die ein Rechtsbeistand oder ein Zulassungsberater klären muss, nicht jedoch ein Personalvermittler.

Wie wir ein Mandat für Führungskräfte abwickeln, erfahren Sie in unserem Ansatz zur Führungskräftevermittlung. Zu den Fragen zur Teamzusammenstellung, die hinter der Einstellung stehen, lesen Sie, was Every Cure über den Aufbau von KI-Teams im Gesundheitswesen lehrt.

Fergal Nolan ist Gründer von Banba, einer auf Healthcare-KI und Life-Sciences-KI spezialisierten Personalberatungsagentur mit Niederlassungen in New York, London und Berlin. Er verfügt über mehr als 25 Jahre Erfahrung in der Personalbeschaffung, unter anderem als Gründungsmitglied von SThree / Real Staffing und als Gründer von Upstream, wo er Data-Science- und KI-Teams sowie Führungskräfte im KI-Bereich für Start-ups, Scale-ups und globale Unternehmen aufgebaut hat.