Was sollte die Sachkundige Person (QP) über künstliche Intelligenz (KI) wissen?
Ein Fachartikel zur Pre-Conference-Session am 26. November 2025 im Rahmen des Qualified Person Forums 2025 in Barcelona, Spanien.
Die fortschreitende Anwendung von Künstlicher Intelligenz im GMP-Bereich wirft grundlegende Fragen hinsichtlich der Tätigkeiten und Verantwortungen der Sachkundigen Person (QP) auf. In der Pre-Conference Session wurden diese Aspekte aus technischer, praktischer und juristischer Perspektive adressiert. Darüber hinaus erfolgte eine Befragung der Teilnehmenden zum Thema Künstliche Intelligenz, deren Ergebnisse im nachfolgenden Abschnitt angeführt werden.
Umfrageergebnisse
Die Befragung von 61 Teilnehmenden der Funktionen: Qualified Person, Quality Assurance, Quality Control und Compliance, Pharmacovigilance und Responsible Person lieferte folgende Ergebnisse:
30 % denken über den Einsatz von KI im eigenen Unternehmen nach, 10 % sind in der Projektplanungsphase, 25 % befinden sich in einer laufenden Realisierungsphase, und bei 35 % ist eine KI bereits im Einsatz.
Hinsichtlich der Etablierung einer unternehmensweiten KI-Strategie gaben 60 % an, dass diese bereits erfolgt ist. 20 % verfügen bislang über keine KI-Strategie, während für weitere 20 % diese Thematik neu war.
Die EU-KI-Verordnung (EU AI Regulation, [1]) ist 2 % sehr gut bekannt, 10 % haben sie teilweise gelesen, 70 % haben von ihr gehört und 20 % war sie unbekannt.
Den Entwurf des EU-GMP-Anhang 22 - KI (i. V. m EU-GMP-Anhang 11) haben 21 % bereits teilweise gelesen, 60 % haben davon gehört und 20 % kannten ihn nicht.
12% setzen KI operativ in GMP Prozessen ein, ca. 30 % planen, KI einzusetzen und 58 % nutzen KI außerhalb GMP-relevanter Prozesse.
Microsoft Copilot stellt aktuell das am häufigsten genutzte KI-Tool dar, gefolgt von ChatGPT/GPT Modellen (intern oder extern) und DeepL (für Übersetzungen).
KI-Applikationen kommen unter anderem in visuellen Inspektionssystemen, internen ChatGPT-Klonen, Document Comparison Tools (Dokumentenvergleich), LIMS bezogenen KI-Funktionen, in der RCA Automation (Root Cause Analysis bei Abweichungen) sowie der QMS Dokumentensuche und der automatisierten Datenauswertung zur Anwendung.
Seminarempfehlung
Copenhagen, Denmark25 August 2026
Raw Data - Understanding, Defining and Managing
Fazit: Unternehmen befinden sich im KI-Bereich auf unterschiedlichen Entwicklungs- und Implementierungsstufen. Trotz bislang begrenzten regulatorischen Wissens und geringer operativer Anwendung von KI im GMP-Bereich besteht eine hohe Nachfrage.
Markus Roemer: KI-Projekte, Validierung und Implementierung
Im Kontext aktueller KI-Anwendungen wird zwischen diskriminativen (klassifizierenden) und generativen (erzeugenden) Systemen differenziert (siehe EU-GMP-Anhang 11 [3]). Daneben bestehen verschiedene Bereitstellungsmodelle. Eine KI kann Daten analysieren, Inhalte erstellen oder Entscheidungen vorbereiten und wirkt damit unmittelbar auf GMP-relevante Prozesse ein.
Während klassische Software bzw. Quellcode (Source Code: "If-then-else") deterministisch arbeitet, generalisiert KI aus Datenquellen - mit Konsequenzen für die Validierung, Reproduzierbarkeit und Datenintegrität. Traditionelle Software basiert auf festgelegten Validierungskonzepten und prozeduraler Kontrolle. Im Gegensatz dazu erfordert KI-Governance eine fortlaufende Validierung ("ongoing validation"), Überwachung von Leistung und Datendrift, formale Erklärbarkeit und strukturierte menschliche Aufsicht, um neue Risiken und Unsicherheiten zu adressieren.
Ein effektiver Governance-Rahmen vereint beide Ansätze, um die Herausforderungen durch deterministische Software und KI-Systeme zu bewältigen.
Regulatorisch maßgeblich sind die EU-KI-Verordnung [1], die EU-Maschinenverordnung und die Entwurfsversionen (2025) des EU-GMP-Anhang 11 und Anhang 22 [2], wobei derzeit die gültige Version des Anhang 11 [3] anzuwenden ist. Die Bestimmungen der EU-KI-Verordnung sind den Vorgaben des EU-GMP-Anhang 11 [3] systematisch zuordenbar.
Die Einstufung von KI als maschinenbasiertes System, das Eingaben in Ausgaben transformiert, verknüpft die EU-KI-Verordnung mit der Maschinenverordnung (EU) 2023/1230, inklusive CE-Kennzeichnungspflichten für Hochrisiko-Systeme. Der Entwurf des EU-GMP-Anhang 22 [2] wird als kritisch erachtet, da bislang eine Abstimmung mit der KI-Verordnung und dem geplanten Anhang 11 [2] fehlt, die Technologieoffenheit begrenzt ist und inhaltliche Unschärfen erkennbar sind.
Über den regulatorischen Rahmen hinaus ist die organisatorische Implementierung von KI, die Harmonisierung von ISO/IEC 42001 [4] (KI Qualitätssystem) mit der bestehenden PQS- und QMS-Struktur sowie die Weiterentwicklung der Validierungsmethodik hin zur "Digitalen Validation" erforderlich. Da KI-Projekte als Innovationsprojekte zu qualifizieren sind, bestehen zusätzliche prozedurale Herausforderungen.
Für den erfolgreichen Einsatz von KI sind insbesondere eine KI-fähige Organisation, Projektmethodik, Datenmanagement und entsprechende Validierungskonzepte von zentraler Bedeutung.
Cheryl Chia: Aus Sicht einer QP - Präsentation
Für den Einsatz von KI in GMP-Organisationen sind auf Datenseite eine robuste "Master Data Governance", saubere und konsistente Daten sowie klar definierte Datensätze, die für KI-Modelle geeignet sind, notwendig.
Auf Prozessebene ist präzise festzulegen, welche Schritte durch KI übernommen werden und wie die menschliche Kontrolle gestaltet ist. Dazu gehören Mechanismen zur Erkennung fehlerhafter KI-Ergebnisse sowie strukturierte Methoden, um die Ursachen derartiger Fehler zu untersuchen. Ergänzend gelten die bekannten regulatorischen Anforderungen an die Validierung computergestützter Systeme.
Seminarempfehlung
Copenhagen, Denmark26-28 August 2026
Data Integrity Master Class
Zentrale Fragestellungen betreffen die Auswirkungen von KI auf Produktqualität, Patientensicherheit und Versorgungssicherheit sowie den Einfluss auf die Chargenfreigabe und die Evidenz der Systemzuverlässigkeit.
QPs müssen verstehen, wie gut der zugrunde liegende Prozess bereits vor Einführung der KI beherrscht wurde und welche Veränderungen durch das Tool entstehen.
Zentral ist die Unterscheidung zwischen statischen und dynamischen Systemen: Während statische Systeme nach der Validierung stabil bleiben, entwickeln sich lernende Modelle weiter - was Fragen zur kontinuierlichen Überwachung, Re-Validierung und Sicherstellung der ursprünglichen Zweckbestimmung aufwirft. Schließlich muss klar definiert sein, wie die Performance des KI Tools im laufenden Betrieb überwacht wird und welche Kriterien festlegen, wann ein Tool noch als zuverlässig gilt.
Eine wesentliche Herausforderung besteht darin, dass die Sachkundige Person die KI verstehen, nachvollziehen und beherrschen muss.
Monika Hupfauf: Rechtlicher Rahmen KI im GMP-Umfeld
Die EU-KI-Verordnung [1] bildet erstmals ein umfassendes europäisches Regelwerk für Künstliche Intelligenz. Sie verfolgt einen strikt risikobasierten Ansatz mit vier Risikostufen. Von besonderer Relevanz für die pharmazeutische Industrie sind die Kategorien "hohes Risiko" und "begrenztes Risiko", da eine Vielzahl von KI Anwendungen in GMP Prozessen - etwa bei Qualitätssicherung, Datenanalyse oder Entscheidungsunterstützung - potenziell als hochriskant einzustufen ist.
Die KI-Verordnung normiert umfassende Pflichten für Anbieter und Anwender, darunter Risikobewertungen, robuste Datensätze, Dokumentation, Nachvollziehbarkeit, menschliche Aufsicht und kontinuierliche Überwachung; zugleich werden bestimmte KI Praktiken vollständig untersagt.
Einen weiteren Schwerpunkt stellt die fehlende Harmonisierung zwischen der EU-KI-Verordnung [1] und den Entwürfen von EU-GMP-Anhang 11 und -Anhang 22 [2] dar. Unterschiedliche Begriffe, divergierende Risikodefinitionen und unklare Schnittstellen erschweren die praktische Umsetzung. Während die Verordnung ein horizontales, technologieübergreifendes Regelwerk darstellt, fungieren EU-GMP-Anhang 11 und 22 als sektorspezifische GMP-Regelungen. Ohne klare Abstimmung drohen Doppelanforderungen, widersprüchliche Interpretationen und Unsicherheiten bei Inspektionen.
Besonders problematisch hinsichtlich Annex 22 erscheint die (i) Nichtübernahme zentraler Terminologien (z. B. der KI-Verordnung) bei gleichzeitiger Einführung neuer Definitionen, (ii) die Beschränkung auf statische, deterministische KI-Modelle, die einen konsistenten Output produzieren sowie (iii) der explizite Ausschluss von dynamischen / adaptiven KI-Modellen, probabilistischen KI-Modellen und generativen KI-Modellen & LLMs in kritischen GMP-Anwendungen.
Diese erheblichen Unsicherheiten bzw. Einschränkungen im (Entwurf des) Annex 22 reduzieren die Verwendungsmöglichkeiten von KI-Modellen in realen GMP-Anwendungen erheblich.
Der Entwurf des Anhang 22 befindet sich derzeit in Überarbeitung und ist damit noch keine zuverlässige Vorgabe.
Fazit
Angesichts der dynamischen Weiterentwicklung der künstlichen Intelligenz und der noch begrenzten Praxiserfahrung besteht weiterhin erheblicher Klärungsbedarf, der einen kontinuierlichen fachlichen Diskurs erfordert. Die Implementierung von KI-Systemen verlangt eine koordinierte Einbindung aller Beteiligten unter Berücksichtigung ihrer Anliegen, Qualifikationen und Kompetenzen. Letztlich erscheint es geboten, die KI-Implementierung auf einen gesamthaften und überlegten Ansatz zu stützen, damit im GMP-Umfeld ein möglichst ideales Ergebnis erzielt werden kann und nicht nur Patienten und Unternehmen, sondern auch Qualitätsentscheider wie die Sachkundige Person ohne Risiko von der KI-Technologie profitieren können. Das Thema KI wird auch beim kommenden QP Forum (26./27. November 2026, Barcelona) wieder Thema sein.
Literaturverzeichnis:
[1.] EU KI Verordnung: Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024; Internet: https://eur-lex.europa.eu/eli/reg/2024/1689/oj?eliuri=eli%3Areg%3A2024%3A1689%3Aoj&locale=en
[2.] EU GMP Anhang 11 und Anhang 22 - Entwurfsversion - 7.Juli 2025; Stakeholders' Consultation on EudraLex Volume 4 - Good Manufacturing Practice Guidelines: Chapter 4, Annex 11 and New Annex 22; Internet: https://health.ec.europa.eu/consultations/stakeholders-consultation-eudralex-volume-4-good-manufacturing-practice-guidelines-chapter-4-annex_en
[3.] EudraLex - Volume 4 - Good Manufacturing Practice (GMP) guidelines (aktuell gültig); u.a. Anhang 11, Anhang 16, Kapitel 1 PQS; Internet: https://health.ec.europa.eu/medicinal-products/eudralex/eudralex-volume-4_en
[4.] ISO/IEC 42001:2023 Information technology - Artificial intelligence - Management system; 2023; Internet: https://www.iso.org/standard/42001
Über die Autoren:
Markus Roemer
... ist Geschäftsführer, Berater, Auditor und Trainer bei comes compliance services
Dr. Monika Hupfauf
... ist Rechtsanwältin mit Schwerpunkt Entwicklung von Arzneimitteln und Medizinprodukten bis hin zur Markteinführung bei Koch/Hupfauf Rechtsanwälte.
