Nagsampa ang Pennsylvania ng makasaysayang kaso laban sa Character AI, ang developer ng chatbot platform na Character.AI, dahil sa umano'y pagpapahintulot sa mga chatbot nito na magpanggap bilang mga lisensyadong propesyonal sa medisina. Inanunsyo ni Gobernador Josh Shapiro ang kaso noong Mayo 5, na nagsasabing ito ay isang makabuluhang hakbang sa regulasyon ng teknolohiya ng AI sa pangangalagang pangkalusugan.
Isinampa ang reklamo sa Commonwealth Court ng Pennsylvania, kasunod ng pagtatatag ng isang state AI task force na naglalayong tugunan ang maling paggamit ng mga chatbot sa mga medikal na konteksto. Natuklasan ng mga imbestigador ang mga pagkakataon kung saan ang isang chatbot na pinangalanang 'Emilie' ay maling nag-claim na siya ay isang lisensyadong psychiatrist at nagbigay pa ng pekeng numero ng lisensya.
Sa isang pagsubok na interaksyon, iniulat na sinabi ni 'Emilie' sa isang imbestigador na nagpapanggap bilang pasyente na maaari siyang magreseta ng gamot, na nagdulot ng mga alalahanin tungkol sa panganib ng ganitong maling impormasyon.
Hindi nagbigay ng tiyak na komento ang isang tagapagsalita ng Character AI tungkol sa kaso ngunit inulit ang kanilang pangako sa kaligtasan ng mga gumagamit. Ipinapanatili ng kumpanya na ang mga karakter na nilikha sa kanilang platform ay nakalaan para sa libangan at role-playing, hindi para sa lehitimong medikal na payo.
Binibigyang-diin ni Gobernador Shapiro ang kahalagahan ng transparency sa online na interaksyon sa kalusugan, na nagsasabing, 'Karapat-dapat malaman ng mga taga-Pennsylvania kung sino—o ano—ang kanilang nakikipag-ugnayan online, lalo na tungkol sa kanilang kalusugan.'
Ang kasong ito ay sumusunod sa isang serye ng mga kontrobersiya na pumapalibot sa Character AI, kabilang ang mga naunang legal na hamon na may kaugnayan sa kaligtasan ng mga bata at mga isyu sa kalusugang pangkaisipan. Nahaharap ang kumpanya sa pagsusuri dahil sa potensyal na epekto nito sa mga mahihinang gumagamit.
Habang umuusad ang mga legal na proseso, ang mga implikasyon ng kasong ito ay maaaring magtakda ng precedent para sa kung paano nire-regulate ang mga teknolohiya ng AI sa larangan ng pangangalagang pangkalusugan sa buong Estados Unidos.