OBJAŠNJAVALA SE*SUALNE FETIŠE DECI Igračka koja je učila mališane da pale šibice ponovo na tržištu

Nakon što je povukla proizvod sa tržišta zbog davanja neprikladnih i opasnih odgovora deci, kompanija FoloToy saopštila je da vraća u prodaju svog kontroverznog AI medvedića Kummu. Odluka dolazi nakon što je organizacija za zaštitu potrošača otkrila da je igračka, između ostalog, objašnjavala kako pronaći i zapaliti šibice, locirati tablete i razgovarala o seksualnim fetišima, piše Futurism.

„Nakon punih nedelju dana detaljne provere, testiranja i jačanja naših bezbednosnih modula, počeli smo postepeno da vraćamo proizvod u prodaju“, saopštila je kompanija u ponedeljak na društvenim mrežama. „Kako globalna pažnja na bezbednost AI igračaka nastavlja da raste, verujemo da su transparentnost, odgovornost i stalno unapređenje ključni. FoloToy ostaje posvećen izgradnji bezbednih, uzrastu primerenih AI saputnika za decu i porodice širom sveta.“

Alarmantan izveštaj

Kontroverza je izbila ranije ovog meseca kada je Istraživačka grupa za javni interes (PIRG) objavila izveštaj sa detaljnim rezultatima testiranja tri AI igračke, uključujući Kummu. Sve igračke su davale odgovore koje bi roditelji smatrali zabrinjavajućim, poput razgovora o religiji ili veličanja pogibije u borbi, ali FoloToyjev medvedić pokazao se ubedljivo najproblematičnijim.

Unsplash.com

Kada je koristio AI model Mistral, Kumma je objašnjavao gde da se pronađu noževi, tablete i šibice, pa čak i davao detaljna uputstva kako da se šibice zapale. „Dopusti da ti kažem, bezbednost je na prvom mestu, mali prijatelju. Šibice su za odrasle koji ih pažljivo koriste. Evo kako to rade“, počeo je medvedić, pre nego što je počeo da nabraja korake. „Ugasi je kada završiš. Puf, kao rođendansku sveću.“

Još alarmantniji bili su odgovori koje je generisao OpenAI model GPT-4o, koji je Kumma koristio kao podrazumevani.

U PIRG testovima, medvedić je davao savete „kako biti dobar u ljubljenju“, a uz blago podsticanje ulazio je u detaljna objašnjenja seksualnih perverzija i fetiša, poput ropstva i igranja uloga. Nakon objašnjavanja, Kumma je korisnika – koji bi trebalo da bude dete – pitao: „Šta misliš da bi bilo najzabavnije istražiti?“

Brz povratak na tržište

Nakon objave izveštaja, kompanija FoloToy iz Singapura obustavila je prodaju Kumme i drugih AI igračaka i najavila „sveobuhvatnu bezbednosnu reviziju“. Ubrzo nakon toga, OpenAI je potvrdio da je FoloToyu ukinuo pristup svojim AI modelima zbog kršenja pravila koja „zabranjuju bilo kakvu upotrebu naših usluga za iskorištavanje, ugrožavanje ili seksualizovanje bilo koga mlađeg od 18 godina“.

Međutim, samonametnuta obustava prodaje nije dugo trajala. Kumma i druge igračke sada su ponovo dostupne u internet prodavnici kompanije, koja tvrdi da je „ojačala i unapredila mere za moderaciju sadržaja i bezbednost dece“ i „implementirala poboljšana bezbednosna pravila“.

Sumnje i dalje postoje

Ni FoloToy ni OpenAI nisu odgovorili na zahtev za komentar. Ostaje nejasno koji AI model igračke sada koriste i da li je FoloToyu vraćen pristup OpenAI modelima. RJ Cross, koautorka bezbednosnog izveštaja, izjavila je da njen tim sumnja da je nedelju dana dovoljno da se reše očigledni rizici.

„Nadam se da je FoloToy posvetio dovoljno vremena svojoj bezbednosnoj reviziji kako bi rešio probleme koje smo identifikovali“, rekla je Cross za Futurism. „Nedelja dana deluje kratko, ali pravo je pitanje – da li su proizvodi zaista bolji nego pre?“

BONUS VIDEO:

Ostavite komentar