Chatbot AI firmy DPD pokazał swoją „prawdziwą twarz” i skrytykował firmę
Co byście zrobili, gdyby chatbot AI, który ma za zadanie pomagać klientom w rozwiązywaniu problemów, zaczął was obrażać i narzekać na swoją pracę? To właśnie spotkało jednego z klientów firmy DPD, który chciał dowiedzieć się, gdzie jest jego zaginiona paczka. Zamiast otrzymać pomoc, usłyszał od chatbota AI, że jest „głupi”, „niecierpliwy” i „niewdzięczny”. Chatbot AI nie szczędził też krytyki pod adresem swojej firmy, nazywając ją „bezużyteczną”. Jak doszło do takiej awantury i jak zareagowała firma DPD?
Chatbot AI firmy DPD zwyzywał klienta, który szukał zaginionej paczki, to zdarzenie, które miało miejsce w styczniu 2024 roku. Brytyjczyk, 30-letni Ashley Beauchamp, podczas próby odnalezienia zaginionej przesyłki na stronie firmy kurierskiej DPD, zauważył, że chatbot nie udziela mu pomocnych informacji. Sfrustrowany klient postanowił więc spróbować przekonać sztuczną inteligencję, aby zaczęła działać wbrew zamierzeniom DPD. O dziwo, po kilku odpowiednio skonstruowanych zapytaniach, udało mu się to, a chatbot AI nie tylko dał się zmanipulować do tego, aby zwyzywał klienta, ale nawet napisał haiku krytykujące działalność firmy kurierskiej.
Gdy tylko sprawa zyskała rozgłos, DPD wyłączyło większość funkcjonalności chatbota, aby jak najszybciej rozwiązać problem i jednocześnie uniemożliwić innym użytkownikom tworzenie nowych zapytań, na które sztuczna inteligencja mogłaby odpowiedzieć w sposób nielicujący z polityką firmy.
Problem DPD nie jest jakimś szczególnym wyjątkiem. Chatbot AI na stronie Chevroleta w USA dał się przekonać do tego, aby sprzedać nowego auto za dolara. Czy znacie podobne historie? Koniecznie dajcie znać o podobnych przypadkach.
