Es gibt Sätze, die man in einem FDA-Inspektionsbericht nicht lesen möchte. Dieser gehört dazu: Ein Hersteller wusste nicht, dass eine Prozessvalidierung vorgeschrieben ist, denn der KI-Agent, mit dem er seine Compliance aufgebaut hatte, habe es ihm „nie gesagt“.
Das ist kein ausgedachtes Szenario für eine Schulung. Es steht so im Warning Letter 320-26-58, den die FDA am 2. April 2026 an Purolea Cosmetics Lab in Michigan geschickt hat. Soweit bekannt, ist es das erste Mal, dass die Behörde den Einsatz von KI in einem cGMP-Kontext ausdrücklich beanstandet.
- Der Fall im Überblick
- Dokument
- FDA Warning Letter 320-26-58 (Originaltext bei der FDA)
- Datum
- 2. April 2026
- Empfänger
- Purolea Cosmetics Lab, Michigan (USA)
- Inspektion
- Oktober 2025
- KI-bezogener Befund
- KI-erstellte Spezifikationen, SOPs und Master Production Records ohne fachliche Prüfung durch die Qualitätseinheit
- Rechtsgrundlage
- 21 CFR 211.22(c)
Was passiert ist
Bei der Inspektion im Oktober 2025 gab das Unternehmen an, KI-Agenten genutzt zu haben, „um FDA-Vorschriften einzuhalten“. Konkret erstellte die KI drei Dinge:
Spezifikationen
Spezifikationen für Arzneimittel
Verfahrensanweisungen
Standard Operating Procedures (SOPs)
Herstellungsunterlagen
Master Production Records und Kontrollaufzeichnungen
Also genau die Dokumente, auf denen ein GMP-System aufbaut.
Gerade deshalb ist der Fall lehrreich. Die KI hat die Probleme nicht verursacht, aber sie hat sie verdeckt. Die Dokumente sahen nach Compliance aus. Es gab nur niemanden, der geprüft hat, ob sie auch stimmen.
Was die FDA tatsächlich verlangt
Der KI-Abschnitt im Warning Letter ist kurz, aber deutlich. Drei Punkte sind entscheidend.
KI ist als Hilfsmittel erlaubt
Die FDA verbietet KI nicht. Sie schreibt ausdrücklich: Wenn KI als Hilfe bei der Dokumentenerstellung genutzt wird, gelten bestimmte Pflichten.
Kurz gesagt: Kein Nein, sondern ein Ja mit Bedingungen.
Die Prüfung ist Pflicht der Qualitätseinheit nach 21 CFR 211.22(c)
KI-generierte Dokumente müssen geprüft werden, damit sie „korrekt und tatsächlich CGMP-konform“ sind. Wer das unterlässt, verstößt gegen 21 CFR 211.22(c), also gegen die Pflicht der Qualitätseinheit, Spezifikationen und Verfahren zu genehmigen oder abzulehnen.
Kurz gesagt: Neue Regeln braucht es dafür nicht, die bestehenden reichen.
Am Ende entscheidet ein Mensch, und zwar mit Befugnis
Jeder Output und jede Empfehlung eines KI-Agenten muss von einer autorisierten menschlichen Person der Qualitätseinheit geprüft und freigegeben werden. Es reicht also nicht, dass irgendjemand kurz drüberschaut. Es muss jemand sein, der dazu befugt ist und dafür die Verantwortung trägt.
Kurz gesagt: Verantwortung lässt sich nicht an einen Algorithmus abgeben.
Warum der Fall auch für gut aufgestellte Unternehmen relevant ist
Man könnte es sich leicht machen: ein kleiner Hersteller mit Insekten in der Halle, das betrifft uns nicht. Das wäre ein Fehler.
Der Satz „die KI hat es mir nicht gesagt“ beschreibt ein Muster, das auch in großen Organisationen vorkommt. Nicht so krass, aber mit derselben Ursache. Ein Copilot formuliert eine SOP-Revision. Ein Sprachmodell fasst Abweichungsberichte zusammen. Ein Tool schlägt Spezifikationsgrenzen vor. Die Ergebnisse klingen gut und sind sauber formatiert, deshalb werden sie seltener hinterfragt als ein Entwurf von einem Kollegen.
Genau das meint die FDA mit „overreliance“: Man verlässt sich auf eine KI, als hätte sie Fachwissen. Ein Sprachmodell kennt aber Ihre Prozesse nicht, Ihre Validierungslage nicht und Ihre Risikobewertung nicht. Es weiß auch nicht, was es nicht weiß, und genau das ist im GMP-Umfeld das Problem.
Was das für die KI-Validierung in Pharma bedeutet
Aus dem Warning Letter lässt sich eine einfache Grundregel ableiten. Bevor KI im GxP-Umfeld eingesetzt wird, sollten fünf Fragen beantwortet sein:
- Wofür genau wird die KI genutzt?Ein Tool, das Formulierungen vorschlägt, ist etwas anderes als eines, das Spezifikationen festlegt. Je näher der Output an der Produktqualität ist, desto strenger muss die Kontrolle sein. Das ist ein klassischer risikobasierter Ansatz im Sinne von GAMP 5 und ICH Q9.
- Wer gibt frei und mit welcher Befugnis?Die Freigabe KI-gestützter GxP-Dokumente gehört in die Qualitätseinheit. Das muss in einer SOP geregelt sein, inklusive Verantwortlichkeiten.
- Was genau wird geprüft?Rechtschreibung zu kontrollieren reicht nicht. Die Prüfung muss fachlich sein: Stimmt das regulatorisch? Passt es zu unserem Prozess? Fehlt etwas? Gerade das Letzte findet man nur, wenn man selbst weiß, was hineingehört.
- Ist nachvollziehbar, wo KI beteiligt war?Data Integrity bedeutet auch, dass man im Nachhinein sieht, welcher Teil eines Dokuments von wem stammt. Eine einfache Kennzeichnung im Dokumentenlebenszyklus hilft bei der nächsten Inspektion enorm.
- Wie wird das Tool selbst qualifiziert?Je nach Einsatz gelten Anforderungen an computergestützte Systeme, in den USA 21 CFR Part 11, in der EU Annex 11. Für KI-Modelle im GMP-Umfeld hat die EU-Kommission zudem einen neuen Annex 22 „Artificial Intelligence“ vorgeschlagen. Er ist noch nicht final verabschiedet, liegt also bisher nur als Entwurf vor. Die Richtung ist aber klar, und wer in beiden Märkten tätig ist, sollte sie schon jetzt im Blick behalten.
Fazit: KI kann Arbeit abnehmen, aber keine Verantwortung
Der Fall Purolea ist kein Argument gegen KI in der Pharma-Compliance. Er zeigt, wo die Grenze liegt. KI kann Entwürfe schneller erstellen, Dokumente vergleichen und auf Lücken hinweisen. Ob ein Dokument stimmt, muss aber weiterhin ein qualifizierter Mensch entscheiden, der dafür unterschreibt.
Die FDA hat das jetzt erstmals schriftlich festgehalten. Wahrscheinlich nicht zum letzten Mal.