Rewolucja związana z zastosowaniem sztucznej inteligencji (AI) staje się faktem. Modele takie jak ChatGPT czy inne systemy AI coraz częściej wspierają codzienną pracę wielu osób. Równolegle powstają jednak ramy regulacyjne – na poziomie Unii Europejskiej kształtuje się Artificial Intelligence Act1, a w obszarze farmaceutycznym rozwijane są nowe regulacje GMP. W styczniu 2025 r. amerykańska FDA opublikowała projekt wytycznych dotyczących stosowania AI w przemyśle farmaceutycznym², natomiast w lipcu 2025 r. Komisja Europejska rozpoczęła konsultacje nad projektem Aneksu 22 do EU GMP³. Niniejszy artykuł omawia główne aspekty projektowanych unijnych regulacji dotyczących AI.
Czego dotyczy Aneks 22
Projekt Aneksu 22 obejmuje systemy skomputeryzowane z funkcjonalnością AI stosowane w wytwarzaniu produktów leczniczych i substancji czynnych, mające bezpośredni wpływ na bezpieczeństwo pacjenta, jakość produktu lub integralność danych. Ten dokument dostarcza dodatkowe wytyczne do Aneksu 11 dla systemów skomputeryzowanych, w których zastosowano modele AI.
Wytyczne koncentrują się na statycznych modelach AI, czyli takich, które po procesie trenowania nie zmieniają swojego działania.
Jednocześnie stwierdza się wyraźnie, że modele dynamiczne, uczące się w sposób ciągły i automatyczny, nie powinny być stosowane w krytycznych zastosowaniach GMP zapewne ze względu na brak powtarzalności i trudności w walidacji.
Co ważne, draft nie dotyczy generatywnej AI ani dużych modeli językowych (LLM), takich jak ChatGPT. Mogą one być stosowane wyłącznie w działaniach niekrytycznych, pod warunkiem zapewnienia mechanizmu Human-In-The-Loop (HITL) – czyli weryfikacji wyników przez kompetentną i odpowiednio przeszkoloną osobę.
Główne zasady
- Personel taki, jak SME, QA, IT i konsultanci, powinien dobrze zrozumieć zamierzone zastosowanie modelu AI w środowisku GMP oraz związane z tym ryzyka. W tym celu personel taki musi mieć odpowiednie kwalifikacje i zdefiniowaną odpowiedzialność oraz ściśle ze sobą współpracować na etapach selekcji algorytmu, trenowania modelu, testowania, walidacji i eksploatacji.
- Dokumentacja dotycząca działań związanych z AI powinna być dostępna i sprawdzona przez wytwórcę.
- Ryzyko Zarządzania Jakością w odniesieniu do bezpieczeństwa pacjenta, jakości produktu i integralności danych powinno być uwzględnione przy wdrażaniu AI.
Kluczowe wymagania
1. Przygotowanie opisu zamierzonego zastosowania
Należy szczegółowo opisać zadania, do których model został zaprojektowany, opierając się na dogłębnej znajomości procesu. Opis powinien zawierać:
- charakterystykę danych wejściowych i wyjściowych,
- dopuszczalny poziom zróżnicowania wyników, limity i możliwe błędy,
- podział danych na grupy wg określonych cech (np. rodzaj defektów).
Jeśli dane z modelu służą do podejmowania decyzji przez człowieka (HITL), opis musi wskazywać również zakres odpowiedzialności człowieka. Dokument powinien zostać zatwierdzony przez Subject Matter Expert’a (SME) przed rozpoczęciem testów akceptacyjnych.
2. Definicja kryteriów akceptacji
Należy opracować scenariusze testowe, które pozwolą zweryfikować działanie modelu zgodnie z przeznaczeniem. Przykładowo, w przypadku modelu klasyfikującego produkt jako „zaakceptowany” lub „odrzucony”, scenariusze mogą obejmować bibliotekę typowych błędów, a także parametry takie jak czułość, specyficzność, dokładność czy precyzja.
Kryteria akceptacji muszą być co najmniej na poziomie obecnie stosowanego procesu i zostać zatwierdzone przez SME.
3. Dokumentacja danych testowych
Dane testowe powinny:
- być reprezentatywne dla całej przestrzeni danych,
- obejmować wszystkie podgrupy,
- odzwierciedlać ograniczenia, złożoność i zmienność procesu,
- umożliwiać obliczenia w sposób statystycznie istotny,
- być prawidłowo opisane i zweryfikowane.
Każde wstępne przetwarzanie (np. normalizacja, standaryzacja, czyszczenie danych) musi być opisane i uzasadnione. Generowanie danych testowych przy użyciu AI nie jest zalecane; jeśli jednak nastąpi, wymaga udokumentowania i uzasadnienia.
4. Zapewnienie niezależności danych testowych
Należy wdrożyć środki gwarantujące, że dane testowe nie były wykorzystywane do rozwoju, trenowania lub walidacji modelu. Dane powinny być chronione poprzez kontrolę dostępu i mechanizmy audit trail.
Podobne zasady dotyczą personelu – osoby zaangażowane w rozwój modelu nie mogą brać udziału w testowaniu.
5. Testowanie modelu AI
Testowanie ma na celu potwierdzenie, że model działa poprawnie z nowymi danymi i jest odpowiedni do zamierzonego zastosowania.
Plan testów powinien być zatwierdzony przez SME i obejmować m.in.:
- opis zamierzonego zastosowania,
- kryteria akceptacji,
- odniesienie do danych testowych,
- scenariusze testowe wraz ze sposobem obliczania wyników.
Wszelkie odchylenia od planu muszą być udokumentowane i uzasadnione. Dokumentacja testowa podlega archiwizacji na zasadach GMP.
W przypadku krytycznych zastosowań model powinien rejestrować cechy danych, na podstawie których podjął decyzję (np. odrzucenie produktu), a ich przegląd powinien być częścią zatwierdzania wyników.
6. Rejestrowanie poziomu pewności
Model używany do przewidywania lub klasyfikacji danych powinien rejestrować poziom pewności swoich wyników. Należy umożliwić ustawienie progów, które ograniczą działania modelu tylko do przypadków, w których pewność jest wystarczająca.
7. Zasady eksploatacji
Do kluczowych zasad należą:
- kontrola zmian dotyczących konfiguracji modelu, systemu i procesu,
- regularne monitorowanie wydajności,
- nadzorowanie, czy dane wyjściowe mieszczą się w określonej przestrzeni,
W przypadku modeli wspierających decyzje człowieka – konieczny może być obowiązkowy przegląd wyników zgodnie z procedurą.
Podsumowanie
Aneks 22 do EU GMP wprowadza nowe regulacje dotyczące zastosowania AI w farmacji. Celem tych regulacji jest umożliwienie wykorzystania innowacyjnych rozwiązań AI w przemyśle farmaceutycznym w sposób kontrolowany, przejrzysty i zgodny z wymaganiami GMP. Główne aspekty Aneksu 22 koncentrują się na następujących obszarach.
- Dopuszczone w krytycznych zastosowaniach są wyłącznie statyczne modele AI.
- Modele dynamiczne mogą być stosowane wyłącznie w działaniach niekrytycznych i zawsze z udziałem HITL.
- Główne zasady dotyczące stosowania AIzwiązane są z koniecznością zapewnienia wykwalifikowanego personelu, dokumentacji zgodnej z wymaganiami GMP oraz reguł Zarządzania Ryzykiem Jakości.
- Kluczowe wymagania dotyczą m.in. opisu zastosowania AI, kryteriów akceptacji, doboru i niezależności danych testowych, a także zasad eksploatacji modelu AI.
Źródła
- The EU Artificial Intelligence Act
- FDA, Considerations for the Use of Artificial Intelligence To Support Regulatory Decision-Making for Drug and Biological Products, Draft Guidance for Industry and Other Interested Parties, January 2025
- European Commission, Annex 22 – Public Consultation Draft, July 2025
Andrzej Szarmanski
Pharma GMP
www.pharma-gmp.com