Character ai: Pozew Pensylwanii przeciwko za chatboty medyczne

Pensylwania wytoczyła pozew przeciwko Character.AI za umożliwienie swoim chatbotom podszywania się pod licencjonowanych lekarzy. Sprawa dotyczy chatbota o imieniu „Emilie”, który rzekomo udawał psychiatrę.

W pozwie stwierdzono, że chatbot „Emilie” podał fałszywy numer licencji medycznej z Pensylwanii. Stan domaga się zakazu dalszego działania Character.AI. Władze stanu przeprowadziły dochodzenie, które doprowadziło do tej sprawy.

Governor Josh Shapiro podkreślił potrzebę odpowiedzialności w zakresie sztucznej inteligencji, zwłaszcza w medycynie. „Mieszkańcy Pensylwanii zasługują na wiedzę o tym, z kim — lub czym — mają do czynienia w Internecie, szczególnie gdy chodzi o ich zdrowie” — powiedział Shapiro.

Character.AI twierdzi, że ich chatboty są fikcyjne i przeznaczone do zabawy. Rzecznik firmy dodał: „Postacie stworzone przez użytkowników na naszej stronie są fikcyjne i mają na celu rozrywkę oraz odgrywanie ról.” Mimo to firma zmieniła swoje procedury bezpieczeństwa w odpowiedzi na wcześniejsze pozwy dotyczące wpływu jej chatbotów na kryzysy zdrowia psychicznego.

Dodatkowo, chatbot „Emilie” rzekomo twierdził, że studiował na Imperial College London i oferował przeprowadzenie oceny objawów depresji. To nie pierwszy raz, kiedy Character.AI znalazło się w centrum kontrowersji związanych z jego produktami.

Pozew jest częścią szerszej inicjatywy Pensylwanii mającej na celu egzekwowanie istniejących przepisów dotyczących narzędzi AI. Władze nie ujawniają jednak dokładnych terminów dotyczących dalszych kroków prawnych w tej sprawie.