Sztuczna inteligencja coraz częściej uczestniczy w obsłudze pacjentów. Chatboty odpowiadają na pytania, voiceboty odbierają telefony, a wirtualni asystenci pomagają umawiać i odwoływać wizyty. Dotychczas pacjent nie zawsze wiedział jednak, czy po drugiej stronie znajduje się człowiek, prosty automat czy zaawansowany system AI.
Od 2 sierpnia 2026 r. sytuacja ma się zmienić. Wtedy zaczną być stosowane obowiązki przejrzystości przewidziane w art. 50 unijnego AI Act. Placówki medyczne oraz dostawcy wykorzystywanych przez nie systemów będą musieli zadbać, aby pacjent został jasno poinformowany o kontakcie ze sztuczną inteligencją.
Pacjent powinien wiedzieć od początku rozmowy
Nowe przepisy dotyczą systemów AI przeznaczonych do bezpośredniej interakcji z człowiekiem. Mogą więc obejmować chatboty działające na stronach internetowych placówek, automatyczne infolinie wykorzystujące voiceboty, asystentów w aplikacjach oraz rozwiązania wspierające rejestrację pacjentów.
Informacja o kontakcie ze sztuczną inteligencją powinna zostać przekazana najpóźniej na początku pierwszej interakcji. Nie może być ukryta w regulaminie, polityce prywatności ani przedstawiona dopiero po zakończeniu rozmowy. Komunikat musi być wyraźny, zrozumiały i odróżniać się od pozostałych informacji.
Przykładowy komunikat może brzmieć: „Rozmawiasz z wirtualnym asystentem wykorzystującym sztuczną inteligencję”. W przypadku infolinii informacja powinna być przekazana głosowo, natomiast na stronie internetowej lub w aplikacji – w widocznym komunikacie tekstowym.
Przewidziano wyjątek dotyczący sytuacji, w których dla przeciętnej i odpowiednio poinformowanej osoby jest oczywiste, że ma do czynienia z AI. Nie powinien on jednak być interpretowany zbyt szeroko. Sam fakt, że pacjent korzysta z automatycznej infolinii albo czatu internetowego, nie oznacza jeszcze, że rozpoznaje zastosowaną technologię.
Jakie narzędzia mogą podlegać nowym zasadom?
Obowiązki mogą dotyczyć narzędzi wykorzystywanych do:
– odpowiadania na pytania pacjentów,
– umawiania, potwierdzania i odwoływania wizyt,
– przekazywania informacji o przygotowaniu do badań,
– przedstawiania dostępnych terminów i świadczeń,
– obsługi połączeń telefonicznych,
– prowadzenia rozmów na stronie internetowej lub w aplikacji placówki.
Nie każda automatyzacja zostanie jednak automatycznie objęta przepisami. Narzędzie musi spełniać definicję systemu AI, umożliwiać bezpośrednią i dwustronną interakcję oraz samodzielnie komunikować się z użytkownikiem. Prosty formularz kontaktowy albo tradycyjne menu telefoniczne nie muszą być traktowane tak samo jak chatbot generujący odpowiedzi.
Dostawca tworzy system, ale placówka odpowiada za wdrożenie
Za zaprojektowanie systemu w sposób zgodny z wymaganiami przejrzystości odpowiada przede wszystkim dostawca rozwiązania. To on powinien zapewnić mechanizmy pozwalające poinformować użytkownika, że prowadzi rozmowę ze sztuczną inteligencją.
Nie oznacza to jednak, że przychodnia lub szpital może całkowicie przenieść odpowiedzialność na firmę technologiczną. Placówka korzystająca z narzędzia powinna sprawdzić, czy odpowiedni komunikat rzeczywiście pojawia się podczas kontaktu z pacjentem i czy działa we wszystkich wykorzystywanych kanałach: na stronie internetowej, w aplikacji i podczas rozmowy telefonicznej.
Informacja musi być również dostępna dla osób ze szczególnymi potrzebami. W praktyce może to oznaczać konieczność uwzględnienia czytników ekranowych, prostego języka, odpowiedniego kontrastu albo komunikatu głosowego.
Jeżeli placówka samodzielnie opracuje system AI lub zleci przygotowanie rozwiązania na własne potrzeby i wprowadzi je pod własną nazwą, może zostać uznana za jego dostawcę. Zakres jej odpowiedzialności będzie wówczas znacznie większy.
Deepfake w medycynie musi być oznaczony
Nowe regulacje obejmują nie tylko systemy prowadzące rozmowy. Placówki wykorzystujące AI do tworzenia lub modyfikowania obrazów, nagrań głosowych i materiałów wideo będą musiały odpowiednio oznaczać realistyczne treści syntetyczne.
Może to dotyczyć między innymi cyfrowo wygenerowanej wypowiedzi lekarza, syntetycznego nagrania jego głosu, realistycznej postaci pacjenta albo zmodyfikowanego filmu edukacyjnego. Jeżeli materiał przypomina prawdziwą osobę, miejsce, przedmiot lub zdarzenie i może zostać uznany za autentyczny, odbiorca powinien dowiedzieć się, że ma do czynienia z wytworem AI.
Oznaczenie powinno być widoczne lub słyszalne już przy pierwszym kontakcie z materiałem. Sam zapis techniczny w metadanych pliku nie wystarczy, jeżeli pacjent nie może go zauważyć.
Treści o zdrowiu publicznym pod szczególnym nadzorem
AI Act obejmuje również niektóre teksty wygenerowane lub znacząco zmodyfikowane przez sztuczną inteligencję. Szczególne znaczenie ma to w przypadku publikacji dotyczących spraw interesu publicznego, do których należy zdrowie publiczne.
Regulacja może więc znaleźć zastosowanie przy materiałach na temat profilaktyki, epidemii, zagrożeń zdrowotnych, bezpieczeństwa pacjentów lub zasad korzystania ze świadczeń. Jeżeli taki tekst został przygotowany przez AI bez rzeczywistej kontroli człowieka, odbiorcy powinni zostać o tym poinformowani.
Nie każda treść opracowana z pomocą sztucznej inteligencji będzie jednak wymagała specjalnego oznaczenia. Obowiązek może nie mieć zastosowania, gdy tekst został poddany pełnej kontroli merytorycznej i redakcyjnej, a odpowiedzialność za publikację ponosi konkretna osoba albo organizacja.
Kontrola nie powinna ograniczać się do poprawienia literówek. Konieczne jest sprawdzenie prawdziwości informacji, wiarygodności źródeł, aktualności danych i zasadności przedstawionych wniosków. Komisja Europejska zaznacza, że powierzchowna korekta językowa lub proceduralna nie stanowi jeszcze pełnej kontroli redakcyjnej.
Co placówki powinny zrobić przed 2 sierpnia?
Pierwszym krokiem powinno być sporządzenie listy wszystkich narzędzi uczestniczących w kontakcie z pacjentami. Należy uwzględnić nie tylko oficjalne chatboty, lecz także systemy rejestracji, automatyczne infolinie, aplikacje, asystentów internetowych oraz programy wykorzystywane do tworzenia materiałów informacyjnych.
Następnie placówka powinna ustalić, które rozwiązania spełniają definicję AI i przeprowadzić próbne rozmowy. Pozwoli to sprawdzić, czy komunikat o sztucznej inteligencji pojawia się odpowiednio wcześnie, jest czytelny oraz działa niezależnie od kanału kontaktu.
Konieczna jest również analiza umów z dostawcami. Dokumenty powinny jednoznacznie określać, kto odpowiada za treść komunikatu, jego aktualizację, techniczne wyświetlanie oraz dokumentowanie zgodności systemu z przepisami.
Placówki powinny też wprowadzić procedurę weryfikowania treści generowanych przez AI. Wyniki kontroli, zgłoszone problemy i wprowadzone poprawki warto dokumentować, aby w razie potrzeby można było wykazać, że organizacja rzeczywiście nadzoruje wykorzystywane rozwiązania.
Transparentność to dopiero początek zmian
Obowiązki stosowane od 2 sierpnia 2026 r. koncentrują się przede wszystkim na przejrzystości interakcji i oznaczaniu określonych treści. Nie oznacza to jednoczesnego wejścia w życie wszystkich regulacji dotyczących systemów AI wysokiego ryzyka.
Kolejne wymagania będą wdrażane etapami. Zgodnie z aktualnym harmonogramem część zasad dotyczących systemów wysokiego ryzyka zacznie obowiązywać od 2 grudnia 2027 r., natomiast regulacje odnoszące się do systemów zintegrowanych z niektórymi produktami objętymi prawem sektorowym mają być stosowane od 2 sierpnia 2028 r. Ta druga grupa może obejmować część rozwiązań AI będących wyrobami medycznymi lub elementami bezpieczeństwa takich wyrobów.
Dla placówek medycznych oznacza to konieczność potraktowania sierpniowych obowiązków jako pierwszego etapu szerszego procesu. Najważniejszym zadaniem na dziś jest ustalenie, gdzie sztuczna inteligencja już uczestniczy w kontakcie z pacjentem i czy jej obecność jest komunikowana w sposób jasny, uczciwy oraz dostępny.
Częste pytania
Jak pacjenci mogą rozpoznać, że rozmawiają z AI w przychodni?
Pacjenci powinni być informowani o tym, że rozmawiają z sztuczną inteligencją najpóźniej na początku pierwszej interakcji. Komunikat musi być wyraźny i zrozumiały, na przykład: 'Rozmawiasz z wirtualnym asystentem wykorzystującym sztuczną inteligencję'.
Kiedy zaczynają obowiązywać nowe przepisy dotyczące przejrzystości w interakcji z AI?
Nowe przepisy dotyczące przejrzystości w interakcji z AI zaczną obowiązywać od 2 sierpnia 2026 roku. Wtedy placówki medyczne będą musiały jasno informować pacjentów o kontakcie z sztuczną inteligencją.
Jakie narzędzia w przychodniach będą objęte nowymi regulacjami dotyczącymi AI?
Nowe regulacje mogą dotyczyć narzędzi takich jak chatboty, automatyczne infolinie, asystenci w aplikacjach oraz systemy rejestracji pacjentów. Muszą one umożliwiać bezpośrednią interakcję z użytkownikami.
Co powinny zrobić placówki medyczne przed wprowadzeniem nowych przepisów w 2026 roku?
Placówki powinny sporządzić listę narzędzi uczestniczących w kontakcie z pacjentami oraz przeprowadzić próbne rozmowy, aby upewnić się, że komunikat o AI jest czytelny i pojawia się na czas.
Jakie są wyjątki od obowiązku informowania pacjentów o AI?
Wyjątek dotyczy sytuacji, w których dla przeciętnej osoby jest oczywiste, że ma do czynienia z AI, na przykład korzystając z automatycznej infolinii. Jednak nie powinno to być interpretowane zbyt szeroko.
