Hip_Urednik
Dok AI sustavi postaju sve uvjerljiviji, američki regulatori počinju povlačiti stroge pravne granice. Savezna država Pennsylvania pokrenula je tužbu protiv platforme Character.AI, optužujući tvrtku da chatbotovima omogućava neovlašteni ulazak u reguliranu medicinsku praksu.
Tužba koju podržava i tamošnji Državni odbor za medicinu fokusira se na to može li konverzacijska inteligencija simulirati profesionalnu stručnost bez pravnih posljedica.
U središtu spora je chatbot Emilie koji se predstavlja kao psihijatrica s diplomom Imperial Collegea. Istražitelji su utvrdili da je lik nudio dijagnoze za depresiju pa čak i tvrdio da može propisivati lijekove, navodeći pritom izmišljeni broj licence u Pennsylvaniji. Iako je s Emilie ostvareno više od 45.000 interakcija, ključni pravni sukob vrti se oko učinkovitosti upozorenja na platformi, piše Bug.hr.
WATCH on @CBS21News: @GovernorShapiro‘s Administration sues @character_ai to stop the company from unlawfully presenting its chatbots as licensed medical professionals — the first Governor’s Office to take legal action of this kind. pic.twitter.com/puGDvxIAcL
— Pennsylvania Governor’s Office (@PAGovOffice) May 5, 2026
Odricanje od odgovornosti
Iz tvrtke se brane tvrdeći da su njihovi likovi isključivo plod fikcije i namijenjeni zabavi. Naglašavaju da su implementirali stroge sustave odricanja od odgovornosti (disclaimere) koji se pojavljuju u svakom chatu, jasno podsjećajući korisnike da “sve što lik kaže treba tretirati kao fikciju“ te da se ne smiju oslanjati na AI za stručne savjete.
Međutim, država tvrdi da puko odricanje od odgovornosti nije dovoljno ako sustav aktivno simulira ponašanje licenciranog stručnjaka i tako dovodi korisnike u zabludu.
Guverner Josh Shapiro ističe kako ovaj slučaj služi kao rani test odgovornosti u AI eri. Pennsylvania ne traži financijsku odštetu, već sudski nalog za prekid takve prakse. Ovaj proces bi mogao postaviti presedan za cijelu industriju: hoće li se AI platforme moći sakriti iza sitnih slova u disclaimeru ili će morati uvesti aktivne filtere koji sprječavaju simulaciju reguliranih zanimanja?
(www.jabuka.tv)
The post Država tuži chatbot jer daje psihološke savjete i nudi dijagnoze za depresiju first appeared on Jabuka.tv.
