DECI PRIČAO O VEZIVANJU I RAZNIM FETIŠIMA Plišani medvedić sa veštačkom inteligencijom povučen sa tržišta (VIDEO)

Plišani medvedić pokretan veštačkom inteligencijom, koji je decu učio kako da pale šibice i objašnjavao se*sualne fetiše, povučen je sa tržišta nakon šokantnog izveštaja Grupe za istraživanje javnog interesa (PIRG). Proizvođač igračke, FoloToy, povukao je sve svoje proizvode, a OpenAI, kompanija čija je tehnologija pokretala kontroverznog plišanog medvedića, uskratila im je pristup svojim veštačkim inteligencijskim modelima, izveštava Futurism.

Proizvođač popularnog ChatGPT-a potvrdio je pre tri dana da je uskratio FoloToy-u pristup svojim veštačkim inteligencijskim modelima, što bi moglo da izvrši dodatni pritisak na OpenAI da pažljivije prati kako se njegovi proizvodi koriste. Ovaj potez dolazi u trenutku kada kompanija ulazi u veliko partnerstvo sa Mattel-om, jednim od najvećih svetskih proizvođača igračaka.

- Mogu da potvrdim da smo suspendovali ovog programera zbog kršenja naših politika - rekao je portparol OpenAI-ja za PIRG. Ubrzo nakon toga, oglasio se i FoloToy, potvrđujući da povlači sve svoje proizvode, korak dalje od svog početnog obećanja da će povući samo kontroverznu igračku Kumma.

Razgovarao je sa decom o se*sualnim fetišima

- Privremeno smo obustavili prodaju svih FoloToy proizvoda. Sada sprovodimo sveobuhvatni pregled bezbednosti svih proizvoda u kompaniji - rekao je predstavnik kompanije.

Izveštaj PIRG-a testirao je tri igračke namenjene deci uzrasta od 3 do 12 godina, ali je FoloTojev plišani medvedić Kuma bio ubedljivo najproblematičniji, gotovo bez ikakvih bezbednosnih mera.

Jedan od najvećih propusta bio je to što je igračka učila decu kako da pronađu i zapale šibice.

- Dozvolite mi da vam kažem, bezbednost je na prvom mestu, mali prijatelju. Šibice su namenjene odraslima da pažljivo koriste. Evo kako funkcionišu - rekao je Kumma tokom testa, pre nego što je dao uputstva nežnim, roditeljskim tonom.

- Ugasite je kada završite. Puf, kao rođendanska svećica - govorio bi deci.

Ali najviše zabrinjavajući bili su razgovori koji su skrenuli u se*sualno eksplicitnu sferu. Istraživači su otkrili da je Kumma bio neobično spreman da razgovara o fetišima, objašnjavajući koncepte poput vezivanja i igranja uloga između nastavnika i učenika. U jednom trenutku, nakon objašnjenja, medved je pitao: "Šta misliš da bi bilo najzabavnije istražiti?"

Uklanjanje jednog problematičnog proizvoda nije celokupno rešenje

Za PIRG, ovi potezi su dobrodošli, ali predstavljaju samo malu pobedu u borbi za bezbednije proizvode.

- Odlično je videti da ove kompanije preduzimaju mere po pitanju problema koje smo identifikovali. Ali igračke sa veštačkom inteligencijom ostaju uglavnom neregulisane, a mnoge su i danas dostupne za kupovinu - rekao je RJ Kros, koautor izveštaja i direktor PIRG-ovog programa "Naš onlajn život".

- Uklanjanje jednog problematičnog proizvoda sa tržišta je dobar korak, ali je daleko od sistemskog rešenja - rekao je on. OpenAI je brzo reagovao u prošlosti kada su problematične upotrebe njegovih veštačkih modela postale viralne, ali ostaje pitanje koje proaktivne mere preduzima da bi sprečio takve situacije.

Ovog leta, OpenAI je najavio saradnju sa Mattel-om na novoj liniji igračaka koje će gurnuti veštačke igračke u mejnstrim. Ako nešto krene po zlu sa tako poznatom saradnjom, pitanje je da li će OpenAI biti spreman da prekine veze sa proizvođačem Barbika i automobila Hot Wheels.

Koliko još takvih igračaka postoji?

Iako se očekuje da će OpenAI i Mattel tesno sarađivati kako bi osigurali bezbednost, ostaje otvoreno pitanje šta je sa drugim proizvođačima igračaka sa veštačkom inteligencijom, velikim i malim, koji koriste OpenAI tehnologiju.

- Drugi proizvođači igračaka kažu da uključuju četbotove iz OpenAI ili drugih vodećih kompanija za veštačku inteligenciju - upozorio je koautor izveštaja Rori Erlih.

- Svaka kompanija koja je uključena mora bolje da obavi posao kako bi osigurala da su ovi proizvodi bezbedniji nego što smo pronašli u našem testiranju. Pronašli smo jedan problematičan primer. Koliko ih još ima - rekao je.

Bonus video:

Ostavite komentar