„AI nigdy mi nie powiedziała, że to obowiązkowe”: czego naprawdę wymaga pierwszy Warning Letter FDA dotyczący dokumentów AI

Grafika: Warning Letter FDA dotyczący dokumentów GMP stworzonych przez AI
Producent nie wiedział, że walidacja procesu jest obowiązkowa, bo agent AI „nigdy mu tego nie powiedział”. Tak stoi w pierwszym Warning Letter FDA, który wprost kwestionuje użycie AI w kontekście cGMP. Czego wymaga urząd i co to oznacza dla AI w środowisku GxP.

Są zdania, których nie chce się przeczytać w raporcie z inspekcji FDA. To jest jedno z nich: producent nie wiedział, że walidacja procesu jest obowiązkowa, bo agent AI, przy pomocy którego zbudował swój system compliance, „nigdy mu tego nie powiedział”.

To nie jest wymyślony scenariusz szkoleniowy. Tak stoi w Warning Letter 320-26-58, który FDA wysłała 2 kwietnia 2026 roku do Purolea Cosmetics Lab w stanie Michigan. Z tego, co wiadomo, to pierwszy raz, gdy urząd wprost zakwestionował użycie AI w kontekście cGMP.

Sprawa w skrócie
Dokument
FDA Warning Letter 320-26-58 (tekst oryginalny na stronie FDA)
Data
2 kwietnia 2026
Adresat
Purolea Cosmetics Lab, Michigan (USA)
Inspekcja
październik 2025
Ustalenie dotyczące AI
Specyfikacje, SOP i Master Production Records stworzone przez AI bez merytorycznej weryfikacji przez jednostkę jakości
Podstawa prawna
21 CFR 211.22(c)

Co się stało

Podczas inspekcji w październiku 2025 roku firma oświadczyła, że korzystała z agentów AI, „aby przestrzegać przepisów FDA”. Konkretnie AI stworzyła trzy rzeczy:

Stworzone przez AI

Specyfikacje

Specyfikacje produktów leczniczych

Stworzone przez AI

Procedury

Standardowe procedury operacyjne (SOP)

Stworzone przez AI

Dokumentacja produkcyjna

Master Production Records i zapisy kontrolne

Czyli dokładnie te dokumenty, na których opiera się system GMP.

Uczciwie trzeba przyznać: AI nie była jedynym problemem. Warning Letter wymienia owady i brud w produkcji, brak mikrobiologicznych badań zwalniających, niezbadane materiały wyjściowe i jednostkę jakości, która nie wypełniała swoich zadań. Zakład z takimi brakami prawdopodobnie otrzymałby Warning Letter także bez AI.

Właśnie dlatego ten przypadek jest pouczający. AI nie spowodowała problemów, ale je ukryła. Dokumenty wyglądały na zgodne z przepisami. Zabrakło tylko kogoś, kto sprawdziłby, czy są prawidłowe.

Czego FDA faktycznie wymaga

Fragment Warning Letter dotyczący AI jest krótki, ale jednoznaczny. Decydujące są trzy punkty.

01

AI jest dozwolona jako narzędzie

FDA nie zakazuje AI. Wprost pisze, że gdy AI jest używana jako pomoc przy tworzeniu dokumentów, obowiązują określone wymogi.

W skrócie: To nie jest „nie”, lecz „tak” pod warunkami.

02

Weryfikacja to obowiązek jednostki jakości według 21 CFR 211.22(c)

Dokumenty wygenerowane przez AI muszą zostać sprawdzone, aby były „poprawne i faktycznie zgodne z CGMP”. Kto tego zaniecha, narusza 21 CFR 211.22(c), czyli obowiązek jednostki jakości zatwierdzania lub odrzucania specyfikacji i procedur.

W skrócie: Nie trzeba nowych przepisów, istniejące wystarczą.

03

Na końcu decyduje człowiek, i to uprawniony

Każdy wynik i każda rekomendacja agenta AI musi zostać sprawdzona i zatwierdzona przez upoważnioną osobę z jednostki jakości. Nie wystarczy więc, że ktoś rzuci okiem. Musi to być ktoś, kto ma do tego uprawnienia i ponosi za to odpowiedzialność.

W skrócie: Odpowiedzialności nie da się przekazać algorytmowi.

Dlaczego ten przypadek dotyczy także dobrze zorganizowanych firm

Łatwo byłoby go zbagatelizować: mały producent z owadami w hali, to nas nie dotyczy. To byłby błąd.

Zdanie „AI mi tego nie powiedziała” opisuje schemat, który występuje także w dużych organizacjach. Nie tak skrajnie, ale z tą samą przyczyną. Copilot formułuje rewizję SOP. Model językowy streszcza raporty z odchyleń. Narzędzie proponuje granice specyfikacji. Wyniki brzmią dobrze i są starannie sformatowane, dlatego kwestionuje się je rzadziej niż projekt kolegi.

Dokładnie to FDA nazywa „overreliance”: poleganie na AI tak, jakby miała wiedzę fachową. Model językowy nie zna jednak Państwa procesów, stanu walidacji ani oceny ryzyka. Nie wie też, czego nie wie, i właśnie to jest problemem w środowisku GMP.

Co to oznacza dla walidacji AI w farmacji

Z Warning Letter można wyprowadzić prostą zasadę. Zanim AI zostanie użyta w środowisku GxP, należy odpowiedzieć na pięć pytań:

  1. Do czego dokładnie służy AI?Narzędzie, które proponuje sformułowania, to coś innego niż narzędzie ustalające specyfikacje. Im bliżej jakości produktu jest wynik, tym ściślejsza musi być kontrola. To klasyczne podejście oparte na ryzyku w duchu GAMP 5 i ICH Q9.
  2. Kto zatwierdza i z jakimi uprawnieniami?Zatwierdzanie dokumentów GxP tworzonych z pomocą AI należy do jednostki jakości. Musi to być uregulowane w SOP, wraz z odpowiedzialnością.
  3. Co dokładnie jest sprawdzane?Kontrola pisowni nie wystarcza. Weryfikacja musi być merytoryczna: czy to jest poprawne regulacyjnie? Czy pasuje do naszego procesu? Czy czegoś brakuje? Ostatnie można znaleźć tylko wtedy, gdy samemu wie się, co powinno się tam znaleźć.
  4. Czy widać, gdzie uczestniczyła AI?Integralność danych oznacza też, że po czasie widać, która część dokumentu pochodzi od kogo. Proste oznaczenie w cyklu życia dokumentu bardzo pomaga przy kolejnej inspekcji.
  5. Jak kwalifikuje się samo narzędzie?W zależności od zastosowania obowiązują wymagania dla systemów skomputeryzowanych: w USA 21 CFR Part 11, w UE Annex 11. Dla modeli AI w środowisku GMP Komisja Europejska zaproponowała ponadto nowy Annex 22 „Artificial Intelligence”. Nie został jeszcze ostatecznie przyjęty i na razie istnieje tylko jako projekt. Kierunek jest jednak jasny, a kto działa na obu rynkach, powinien już teraz mieć go na uwadze.
Powiązany artykułAI w przemyśle farmaceutycznym: potencjał innowacji, regulacje i zgodność

Podsumowanie: AI może przejąć pracę, ale nie odpowiedzialność

Przypadek Purolea nie jest argumentem przeciw AI w compliance farmaceutycznym. Pokazuje, gdzie przebiega granica. AI może szybciej tworzyć projekty, porównywać dokumenty i wskazywać luki. O tym, czy dokument jest prawidłowy, musi jednak nadal decydować wykwalifikowany człowiek, który się pod nim podpisuje.

FDA po raz pierwszy zapisała to wprost. Prawdopodobnie nie ostatni raz.

Hinweis: Dieser Artikel wurde von einem menschlichen Autor verfasst und mithilfe von KI-Tools sprachlich optimiert.

Note: This article was written by a human author and linguistically refined with the help of AI tools.

Uwaga: Ten artykuł został napisany przez autora-człowieka, a jego warstwa językowa została dopracowana przy pomocy narzędzi AI.

Liked this post? Share with others!

Demo

Schenken Sie uns 20 Minuten.

Bringen Sie Ihren größten Datenraum mit. Wir zeigen Ihnen das Produkt. Gerne mit Ihren Testdaten.

Hosting in Deutschland · § 203 StGB-konform · Zero Data Retention

aiuno Screen

Demo

Give us 20 minutes.

Bring your largest data room. We’ll show you the product – happy to use your test data.

Hosted in Germany · No US transfer · Zero Data Retention

aiuno Screen

Demo

Dajcie nam 20 minut.

Przynieście swój największy data room. Pokażemy produkt – chętnie na Waszych danych testowych.

Hosting w Niemczech · Bez transferu do USA · Zero Data Retention

aiuno Screen
Przewijanie do góry