U petak je suosnivač Koka Rob Morris objavio na Twitter, da je njegova tvrtka provela eksperiment za pružanje savjeta o mentalnom zdravlju pisanih umjetnom inteligencijom za 4 ljudi bez prethodne obavijesti, prenosi The Verge. Kritičari su eksperiment nazvali krajnje neetičkim jer Koko nije dobio informirani pristanak od ljudi koji su tražili savjet. Koko je neprofitna platforma za mentalno zdravlje koja povezuje tinejdžere i odrasle kojima je potrebna skrb o mentalnom zdravlju s volonterima putem aplikacija za razmjenu poruka kao što su Telegram i Razdor.
Na Discordu, korisnici se prijavljuju na Koko Cares poslužitelj i šalju izravne poruke Koko botu, koji postavlja niz pitanja s višestrukim izborom (npr. "Koja je najmračnija tvoja misao o ovome?"). Zatim anonimno dijeli zabrinutost osobe, snimljenu kao nekoliko rečenica teksta, s nekim drugim na poslužitelju, koji može anonimno odgovoriti vlastitom kratkom porukom.
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
U eksperimentu umjetne inteligencije (AI) koji je uključivao oko 30 poruka, rekao je Morris, volonteri koji su pomagali drugima imali su opciju koristiti odgovor koji je automatski generirao veliki jezični model OpenAI-ja GPT-3 umjesto da ga pišu samostalno (GPT-3 je tehnologija koja stoji iza nedavno popularni chatbot ChatGPT). U svom tweetu Morris primjećuje da su ljudi hvalili odgovore koje je generirala umjetna inteligencija sve dok nisu saznali da ih je napisala umjetna inteligencija, što ukazuje na ključni nedostatak informiranog pristanka u barem jednoj fazi eksperimenta:
“Poruke koje je sastavila umjetna inteligencija (i kontroliraju ljudi) ocijenjene su znatno višom od onih koje su napisali sami ljudi. Vrijeme odziva smanjeno za 50% na manje od minute. Pa ipak… ovu smo značajku prilično brzo uklonili s naše platforme. Zašto? Nakon što su ljudi saznali da su poruke strojno generirane, prestalo je raditi. Simulirana simpatija djeluje čudno, prazno."
U uvodu servera administratori pišu: “Koko vas spaja sa stvarnim ljudima koji vas stvarno razumiju. Ne terapeuti, ne savjetnici, samo ljudi poput tebe." Ubrzo nakon što je Morris objavio poruku, dobio je mnoge odgovore koji su kritizirali eksperiment kao neetičan, navodeći zabrinutost zbog nedostatka informiranog pristanka i postavljajući pitanje je li eksperiment odobrio Institucionalni revizijski odbor (IRB). U Sjedinjenim Državama protuzakonito je provoditi istraživanje na ljudima bez pravno učinkovitog informiranog pristanka, osim ako IRB ne odluči da se pristanak može odreći.
U tvitu kao odgovoru, Morris je rekao da je eksperiment "izuzet" od zahtjeva za informiranim pristankom jer nije planirao objaviti rezultate, što je izazvalo paradu bijesa.
Ideja o korištenju umjetne inteligencije kao terapeuta daleko je od nove, ali ono što čini Kokov eksperiment drugačijim od tipičnih pristupa terapiji umjetnom inteligencijom je to što pacijenti znaju da ne razgovaraju sa živom osobom. U slučaju Koko, platforma je uključivala hibridni pristup gdje ljudski posrednik može pregledati poruku prije slanja, umjesto izravnog formata chata. Međutim, bez informiranog pristanka, kritičari kažu da je Koko prekršio etička pravila osmišljena da zaštite ranjive ljude od štetnih ili okrutnih istraživačkih praksi.
Govoreći kao bivši član IRB-a i predsjedavajući, proveli ste istraživanje na ranjivoj populaciji na ljudima bez odobrenja ili izuzeća IRB-a (VI ne odlučujete). Možda MGH IRB process je tako spor jer se bavi ovakvim stvarima. Neželjeni savjet: odvjetnik gore
— Daniel Shoskes (@dshoskes) 7. 2023. XNUMX.
Morris je u ponedjeljak objavio post u kojem je odgovorio na kontroverzu i objasnio Kokovo putovanje do GPT-3 i AI općenito: “Primam kritike, zabrinutosti i pitanja o ovom radu s empatijom i otvorenošću. Predani smo osiguravanju da je svaka upotreba umjetne inteligencije osjetljiva, uz duboku zabrinutost za privatnost, transparentnost i smanjenje rizika. Naš Klinički savjetodavni odbor sastaje se kako bi raspravljali o smjernicama za budući rad, uključujući odobrenje IRB-a.”
Možete pomoći Ukrajini u borbi protiv ruskih osvajača. Najbolji način da to učinite je donirati sredstva Oružanim snagama Ukrajine putem Savelife ili putem službene stranice NBU.
Pročitajte također: