UK-Kommission empfiehlt gestufte Zulassung für medizinische KI

Die Kommission will den Zugang zu nützlichen KI-Anwendungen beschleunigen, ohne Patientensicherheit und Vertrauen zu opfern. Ihr Modell orientiert sich an den „L“-Schildern für Fahranfänger: Neue Systeme starten unter enger Aufsicht und mit klaren Schutzvorkehrungen.

Für KI-gestützte Medizinprodukte empfiehlt die Kommission außerdem eine kontinuierliche Überwachung im realen Betrieb. Eine einmalige Prüfung vor der Zulassung reicht aus ihrer Sicht nicht aus, wenn sich Systeme und Einsatzbedingungen laufend verändern.

Patienten sollen leichter erfahren, wann KI in ihrer Behandlung eingesetzt wird und welche Sicherheitsvorfälle mit einem System verbunden sind. Die britische Regierung und die Medicines and Healthcare products Regulatory Agency prüfen die Vorschläge nun. Eine formelle Antwort steht noch aus.