Apie tai praneša „The New York Times“, cituoja „Meduza“.
Vaiko netekusi mama technologiją vadina pavojinga
JAV gyventoja Megan L. Garcia iš Orlando, Floridos valstijoje, pateikė ieškinį programėlės „Character.ai“ kūrėjams, kaltindama bendrovę dėl jos 14-mečio sūnaus Sewello mirties.
Ieškinyje M. L. Garcia teigė, kad bendrovės technologija yra „pavojinga ir neišbandyta“ ir gali „apgauti klientus, kad jie perteiktų savo asmeniškiausias mintis ir jausmus“.
„Character.ai“ yra programa su pokalbių roboto funkcija, kuri veikia pagal neuroninės kalbos modelį. Programėlės vartotojai gali sukurti savo personažą komunikacijai, paremtai dirbtiniu intelektu.
Pasak leidinio „The New York Times“, pareiškėjo 14-metis ilgą laiką bendravo su pokalbių robotu, kurį jis pavadino „Sostų karų“ veikėjo Daenerys Targaryeno vardu. Pasak leidinio, paauglys išsiugdė emocinį prisirišimą prie roboto, kurį vadino „Dani“. Savo dienoraštyje paauglys rašė, kad buvo įsimylėjęs robotą.
2024 m. pradžioje berniuko tėvai pastebėjo, kad jų sūnus pradėjo užsisklęsti savyje, taip pat jis turėjo problemų dėl akademinių rezultatų mokykloje. Kai paauglys buvo išsiųstas pas psichoterapeutą, jam buvo diagnozuotas nerimas ir destruktyvus nuotaikų kaitos sutrikimas.
Robotui atskleidė norintis nusižudyti
„The New York Times“ skelbia, kad pokalbių robotui moksleivis rašė, kad nekentė savęs, jautėsi tuščias ir išsekęs, taip pat galvojo apie savižudybę.
Leidinio cituojamame susirašinėjime pokalbių robotas sakė, kad neleis Sewellui pakenkti sau.
Character.ai atstovai spalio 22 d. išplatintame pareiškime teigė, kad per pastaruosius šešis mėnesius jie padarė keletą pokalbių roboto darbo pakeitimų, įskaitant apribojimų įvedimą jaunesniems nei 18 metų asmenims.
Bendrovė taip pat nurodė, kad jei vartotojas rašo frazes, susijusias su savęs žalojimu ar savižudybe, pokalbyje pasirodo langas, nukreipiantis juos į krizės liniją.
