Firma Exdrog, działająca w branży budowlano-drogowej, przekonała się, że wykorzystanie sztucznej inteligencji w dokumentacji przetargowej bez odpowiedniej weryfikacji może mieć poważne konsekwencje. Spółka została wykluczona z postępowania przetargowego dotyczącego utrzymania dróg w Małopolsce. W jej ofercie znaleziono bowiem fikcyjne dane oraz nieistniejące interpretacje podatkowe, wygenerowane przez narzędzie oparte na AI.
To jeden z pierwszych przypadków w Polsce, w których zastosowanie sztucznej inteligencji doprowadziło do tak znaczących skutków prawnych. Sprawa pokazuje, że automatyzacja procesów nie zwalnia przedsiębiorców z obowiązku rzetelnego sprawdzenia przedstawianych informacji.
Przetarg w Małopolsce – pozornie najkorzystniejsza oferta
Zarząd Dróg Wojewódzkich w Krakowie ogłosił przetarg na utrzymanie dróg wojewódzkich. Wśród oferentów znalazła się firma Exdrog, która zaproponowała wykonanie prac za 15,5 mln zł. Początkowo oferta wydawała się atrakcyjna cenowo, dlatego zamawiający poprosił o wyjaśnienie, czy kwota nie jest rażąco niska. W odpowiedzi wykonawca przekazał 280 stron analiz i kalkulacji, które miały potwierdzić zasadność wyceny. Dokumentacja zrobiła wrażenie — do czasu, gdy konkurencja zaczęła przyglądać się jej bliżej.
Halucynacje AI zamiast prawa
Firma Mika, reprezentowana przez kancelarię BSJP, odkryła, że część argumentów przedstawionych przez Exdrog pochodzi z narzędzia sztucznej inteligencji. Jak wyjaśnił Jarosław Sroka, partner w kancelarii BSJP, wykonawca „powoływał się na nieistniejące, nigdy niewydane interpretacje podatkowe, które rzekomo dotyczyły podobnych spraw”. W praktyce oznaczało to, że system AI – zamiast znaleźć właściwe akty prawne – „zmyślił” przepisy, tworząc tzw. halucynacje. Na tej podstawie sporządzono analizy podatkowe, które ostatecznie wprowadziły zamawiającego w błąd.
Decyzja Krajowej Izby Odwoławczej
Po ujawnieniu nieprawidłowości sprawa trafiła do Krajowej Izby Odwoławczej (KIO). W orzeczeniu stwierdzono, że Exdrog nie zweryfikował informacji wygenerowanych przez narzędzie AI i przedstawił zamawiającemu dokumenty zawierające nieprawdziwe dane. KIO uznała, że takie działanie stanowi wprowadzenie w błąd i wykluczyła firmę z dalszego postępowania przetargowego. Decyzja ta została uznana przez ekspertów za przełomową. Po raz pierwszy w Polsce oficjalne orzeczenie dotyczyło odpowiedzialności za skutki błędnego użycia sztucznej inteligencji w dokumentach urzędowych.
Przełomowy przypadek na rynku zamówień publicznych
Przypadek Exdrogu stanowi ostrzeżenie dla wykonawców i instytucji publicznych, które coraz częściej sięgają po narzędzia generatywnej AI do analiz, raportów czy przygotowywania ofert. Choć sztuczna inteligencja może znacząco przyspieszyć pracę i obniżyć koszty, wymaga też pełnej kontroli merytorycznej ze strony człowieka. Eksperci przypominają, że odpowiedzialność za treść dokumentów zawsze spoczywa na wykonawcy – niezależnie od tego, z jakich narzędzi korzysta. W przypadku Exdrogu „droga na skróty” okazała się wyjątkowo kosztowna.
AI w przetargach – pomoc czy zagrożenie?
Przypadek Exdrogu może stać się punktem odniesienia dla przyszłych regulacji i standardów dotyczących użycia AI w zamówieniach publicznych.
Warto więc potraktować go nie tylko jako ostrzeżenie, lecz także jako impuls do świadomego i odpowiedzialnego wdrażania technologii sztucznej inteligencji w biznesie.
Częste pytania
Jakie konsekwencje może mieć użycie AI w dokumentacji przetargowej?
Użycie sztucznej inteligencji w dokumentacji przetargowej bez odpowiedniej weryfikacji może prowadzić do poważnych konsekwencji, takich jak wykluczenie z postępowania przetargowego. Przykład firmy Exdrog pokazuje, że niezweryfikowane dane mogą wprowadzać zamawiającego w błąd.
Dlaczego firma Exdrog została wykluczona z przetargu w Małopolsce?
Firma Exdrog została wykluczona z przetargu, ponieważ w jej ofercie znalazły się fikcyjne dane oraz nieistniejące interpretacje podatkowe, które zostały wygenerowane przez narzędzie AI. Krajowa Izba Odwoławcza uznała, że takie działanie stanowi wprowadzenie w błąd.
Jakie błędy popełniła firma Exdrog przy użyciu AI?
Exdrog popełniła błąd, nie weryfikując informacji wygenerowanych przez narzędzie AI, co skutkowało przedstawieniem dokumentów zawierających nieprawdziwe dane. To zaniechanie doprowadziło do wykluczenia firmy z przetargu.
Co oznaczają halucynacje AI w kontekście przetargów?
Halucynacje AI odnoszą się do sytuacji, w której system sztucznej inteligencji generuje fikcyjne lub nieistniejące informacje, które mogą być błędnie uznane za prawdziwe. W przypadku Exdrogu, AI stworzyło nieistniejące interpretacje podatkowe, które wprowadziły zamawiającego w błąd.
Jakie są implikacje przypadku Exdrogu dla przyszłości użycia AI w zamówieniach publicznych?
Przypadek Exdrogu może stać się punktem odniesienia dla przyszłych regulacji dotyczących użycia AI w zamówieniach publicznych. Eksperci podkreślają, że odpowiedzialność za treść dokumentów zawsze spoczywa na wykonawcy, co wymaga świadomego i odpowiedzialnego wdrażania technologii AI.
