Są zdania, których nie chce się przeczytać w raporcie z inspekcji FDA. To jest jedno z nich: producent nie wiedział, że walidacja procesu jest obowiązkowa, bo agent AI, przy pomocy którego zbudował swój system compliance, „nigdy mu tego nie powiedział”.
To nie jest wymyślony scenariusz szkoleniowy. Tak stoi w Warning Letter 320-26-58, który FDA wysłała 2 kwietnia 2026 roku do Purolea Cosmetics Lab w stanie Michigan. Z tego, co wiadomo, to pierwszy raz, gdy urząd wprost zakwestionował użycie AI w kontekście cGMP.
- Sprawa w skrócie
- Dokument
- FDA Warning Letter 320-26-58 (tekst oryginalny na stronie FDA)
- Data
- 2 kwietnia 2026
- Adresat
- Purolea Cosmetics Lab, Michigan (USA)
- Inspekcja
- październik 2025
- Ustalenie dotyczące AI
- Specyfikacje, SOP i Master Production Records stworzone przez AI bez merytorycznej weryfikacji przez jednostkę jakości
- Podstawa prawna
- 21 CFR 211.22(c)
Co się stało
Podczas inspekcji w październiku 2025 roku firma oświadczyła, że korzystała z agentów AI, „aby przestrzegać przepisów FDA”. Konkretnie AI stworzyła trzy rzeczy:
Specyfikacje
Specyfikacje produktów leczniczych
Procedury
Standardowe procedury operacyjne (SOP)
Dokumentacja produkcyjna
Master Production Records i zapisy kontrolne
Czyli dokładnie te dokumenty, na których opiera się system GMP.
Właśnie dlatego ten przypadek jest pouczający. AI nie spowodowała problemów, ale je ukryła. Dokumenty wyglądały na zgodne z przepisami. Zabrakło tylko kogoś, kto sprawdziłby, czy są prawidłowe.
Czego FDA faktycznie wymaga
Fragment Warning Letter dotyczący AI jest krótki, ale jednoznaczny. Decydujące są trzy punkty.
AI jest dozwolona jako narzędzie
FDA nie zakazuje AI. Wprost pisze, że gdy AI jest używana jako pomoc przy tworzeniu dokumentów, obowiązują określone wymogi.
W skrócie: To nie jest „nie”, lecz „tak” pod warunkami.
Weryfikacja to obowiązek jednostki jakości według 21 CFR 211.22(c)
Dokumenty wygenerowane przez AI muszą zostać sprawdzone, aby były „poprawne i faktycznie zgodne z CGMP”. Kto tego zaniecha, narusza 21 CFR 211.22(c), czyli obowiązek jednostki jakości zatwierdzania lub odrzucania specyfikacji i procedur.
W skrócie: Nie trzeba nowych przepisów, istniejące wystarczą.
Na końcu decyduje człowiek, i to uprawniony
Każdy wynik i każda rekomendacja agenta AI musi zostać sprawdzona i zatwierdzona przez upoważnioną osobę z jednostki jakości. Nie wystarczy więc, że ktoś rzuci okiem. Musi to być ktoś, kto ma do tego uprawnienia i ponosi za to odpowiedzialność.
W skrócie: Odpowiedzialności nie da się przekazać algorytmowi.
Dlaczego ten przypadek dotyczy także dobrze zorganizowanych firm
Łatwo byłoby go zbagatelizować: mały producent z owadami w hali, to nas nie dotyczy. To byłby błąd.
Zdanie „AI mi tego nie powiedziała” opisuje schemat, który występuje także w dużych organizacjach. Nie tak skrajnie, ale z tą samą przyczyną. Copilot formułuje rewizję SOP. Model językowy streszcza raporty z odchyleń. Narzędzie proponuje granice specyfikacji. Wyniki brzmią dobrze i są starannie sformatowane, dlatego kwestionuje się je rzadziej niż projekt kolegi.
Dokładnie to FDA nazywa „overreliance”: poleganie na AI tak, jakby miała wiedzę fachową. Model językowy nie zna jednak Państwa procesów, stanu walidacji ani oceny ryzyka. Nie wie też, czego nie wie, i właśnie to jest problemem w środowisku GMP.
Co to oznacza dla walidacji AI w farmacji
Z Warning Letter można wyprowadzić prostą zasadę. Zanim AI zostanie użyta w środowisku GxP, należy odpowiedzieć na pięć pytań:
- Do czego dokładnie służy AI?Narzędzie, które proponuje sformułowania, to coś innego niż narzędzie ustalające specyfikacje. Im bliżej jakości produktu jest wynik, tym ściślejsza musi być kontrola. To klasyczne podejście oparte na ryzyku w duchu GAMP 5 i ICH Q9.
- Kto zatwierdza i z jakimi uprawnieniami?Zatwierdzanie dokumentów GxP tworzonych z pomocą AI należy do jednostki jakości. Musi to być uregulowane w SOP, wraz z odpowiedzialnością.
- Co dokładnie jest sprawdzane?Kontrola pisowni nie wystarcza. Weryfikacja musi być merytoryczna: czy to jest poprawne regulacyjnie? Czy pasuje do naszego procesu? Czy czegoś brakuje? Ostatnie można znaleźć tylko wtedy, gdy samemu wie się, co powinno się tam znaleźć.
- Czy widać, gdzie uczestniczyła AI?Integralność danych oznacza też, że po czasie widać, która część dokumentu pochodzi od kogo. Proste oznaczenie w cyklu życia dokumentu bardzo pomaga przy kolejnej inspekcji.
- Jak kwalifikuje się samo narzędzie?W zależności od zastosowania obowiązują wymagania dla systemów skomputeryzowanych: w USA 21 CFR Part 11, w UE Annex 11. Dla modeli AI w środowisku GMP Komisja Europejska zaproponowała ponadto nowy Annex 22 „Artificial Intelligence”. Nie został jeszcze ostatecznie przyjęty i na razie istnieje tylko jako projekt. Kierunek jest jednak jasny, a kto działa na obu rynkach, powinien już teraz mieć go na uwadze.
Podsumowanie: AI może przejąć pracę, ale nie odpowiedzialność
Przypadek Purolea nie jest argumentem przeciw AI w compliance farmaceutycznym. Pokazuje, gdzie przebiega granica. AI może szybciej tworzyć projekty, porównywać dokumenty i wskazywać luki. O tym, czy dokument jest prawidłowy, musi jednak nadal decydować wykwalifikowany człowiek, który się pod nim podpisuje.
FDA po raz pierwszy zapisała to wprost. Prawdopodobnie nie ostatni raz.