Prema roditelju koji je objavio snimke zaslona Alexine povijesti aktivnosti, Amazonov glasovni asistent, kada ga je dijete zamolilo da ponudi izazov, dao je primjer smrtonosnog eksperimenta s strujom, izvlačeći njegov opis iz konteksta slučajnog članka. U rubrici Echo govorilo se o eksperimentu popularnom među ljubiteljima TikToka s korištenjem novčića i punjača za pametni telefon – o brojnim incidentima, ozljedama i požarima nakon njegove provedbe više su puta izvještavali razni mediji. Navodno je uređaj dobio ideju za ovaj izazov iz članka koji ga je opisao kao opasan, citirajući izvješće o navodnom postojećem izazovu TikToka.
Prema snimci zaslona koju je snimila Christine Livdahl, na upit da mi "pokaže zadatak", Echo je odgovorio: "Evo nečega što sam pronašao na internetu." Prema ourcommunitynow.com, zadatak je jednostavan: "ubacite telefonski punjač otprilike do pola u utičnicu, a zatim penijem dodirnite gole igle."
U izjavi za BBC, Amazon je potvrdio ponašanje Alexe, rekavši: "Čim smo postali svjesni ove greške, poduzeli smo hitnu akciju da je popravimo." Livdahl je jučer tvitao da zahtjev za izazov više ne funkcionira. Korisnici na webu također su testirali zahtjev s Alexom i dobili sličan rezultat.
OMFG Moj 10-godišnjak je upravo pitao Alexu na našem Echou za izazov i ovo je ono što je ona rekla. slikatwitter.com/HgGgrLbdS8
- Kristin Livdahl (@klivdahl) Prosinac 26, 2021
Amazon nije jedina tvrtka koja se susrela s problemima prilikom analize web sadržaja. U listopadu je korisnik prijavio da Google prikazuje potencijalno opasne savjete u jednom od svojih isječaka ako u Google upišete "imate napadaj, što učiniti" - informacije su preuzete iz dijela web stranice koji opisuje što ne učiniti ako netko ima napadaj. Međutim, korisnici su izvijestili o drugim sličnim problemima, uključujući jednog korisnika koji je izvijestio da Google vraća rezultate za ortostatsku hipotenziju kada traži ortostatsku hipertenziju, a drugi je objavio snimku zaslona Googlea koja prikazuje užasne savjete za utjehu ožalošćenoj osobi u stilu "Drago mi je da ste dobro sam" ili "Ne budi tužan! Oraspoložiti!".
Sažetak Google pretraživanja u odnosu na stvarnu stranicu slikatwitter.com/OJxt1FrBqh
— soft.linden (｡•̀ᴗ-)✧ (@soft) Listopada 16, 2021
Također smo vidjeli da se pojačavaju upozorenja o opasnom ponašanju kako bi se problem učinio većim nego što je bio — ranije ovog mjeseca, neki su školski okruzi u SAD-u stavljeni pod blokadu nakon izvješća o prijetnjama pucnjavom na TikToku. Pokazalo se da je društvenu buru izazvalo uglavnom to što se o prijetnjama pričalo mnogo više nego o prijetnjama koje su stvarno postojale. U Alexinom slučaju, algoritam je odabrao opisni dio upozorenja i pojačao ga bez izvornog konteksta. Iako su roditelji bili tu da odmah interveniraju, lako je zamisliti situaciju da to nije slučaj i posljedice.
Livdahl je tvitala da je iskoristila priliku da "raspravlja o sigurnosti na internetu sa svojim djetetom i da ne vjeruje onome što čita bez istraživanja i provjere", što predlažemo da i vi učinite.
Pročitajte također: