Europejska Agencja Leków (EMA) i szefowie agencji leków (HMA) opublikowali ogólne zasady i zalecenia dla wszystkich pracowników europejskiej sieci organów regulacyjnych ds. leków (EMRN), wykorzystując w swojej pracy duże modele językowe (LLM).
LLM to kategoria generatywnej AI, której aplikacje mogą znacząco wspierać regulatorów medycyny w ich zadaniach i procesach. Niezależnie od tego, czy są używane do przeszukiwania obszernej dokumentacji, którą regulatorzy rutynowo otrzymują, do automatyzacji procesów eksploracji wiedzy/danych, czy jako wirtualni asystenci AI w codziennych zadaniach administracyjnych – LLM mają ogromny potencjał transformacyjny.
Jednakże LLM-y stwarzają również wyzwania, np. zmienność wyników, zwracanie nieistotnych lub niedokładnych odpowiedzi (tzw. halucynacje) i potencjalne zagrożenia bezpieczeństwa danych. Celem zasad przewodnich jest budowanie zrozumienia możliwości i ograniczeń tych aplikacji wśród pracowników agencji regulacyjnych w całej UE, aby mogli oni skutecznie wykorzystać potencjał LLM-ów i uniknąć pułapek i zagrożeń.
Zasady przewodnie obejmują różne aspekty korzystania z LLM, od zapewnienia bezpiecznego wprowadzania danych, przez stosowanie krytycznego myślenia i krzyżowe sprawdzanie wyników, po wiedzę, z kim się skonsultować, gdy pojawią się obawy. Odpowiedzialne korzystanie z LLM wymaga znajomości narzędzi. Podkreśla się znaczenie ciągłego uczenia się, aby nadążać za szybko zmieniającą się dziedziną.
Ponadto zasady zachęcają agencje regulacyjne do podejmowania wysiłków w celu wspierania swoich pracowników w korzystaniu z LLM. Obejmuje to definiowanie zarządzania korzystaniem z LLM, określanie dozwolonych przypadków użycia, zapewnianie szkoleń i monitorowanie ryzyka.
Zasady przewodnie są jednym z rezultatów wieloletniego planu pracy AI do 2028 r. opracowanego przez EMA i szefów agencji leków (HMA). Ten plan pracy kieruje EMA i EMRN w zakresie korzystania z AI, maksymalizując korzyści przy jednoczesnym zarządzaniu ryzykiem i ułatwiając udostępnianie informacji.
Z dokumentem można zapoznać się tutaj: https://www.ema.europa.eu/en/news/harnessing-ai-medicines-regulation-use-large-language-models-llms
źródło: EMA
