ZASTRAŠUJUĆI TREND ŠIRI SE INTERNETOM Da li ste naišli na ovakve video zapise na društvenim mrežama?

U poslednje vreme je sve teže razlikovati šta je stvaran, a šta lažan sadržaj na internetu. Kako tehnološki alati napreduju, njihovi rezultati su sve bolji, kao i nedavno predstavljena nova generacija alata za generisanje video zapisa pomoću veštačke inteligencije - Sora.

Video snimci koje ovaj alat može da kreira samo od teksta ili jedne fotografije su neverovatno realistični, i ako ste nedavno dobili neverovatan video za koji ste na prvi pogled mislili da je stvaran, postoji velika šansa da iza njega stoji Sora.

Povećanje nasilja uz pomoć veštačke inteligencije

Ovo su često duhoviti i zanimljivi video snimci, ali sa Sorom i drugim sličnim alatima pojavio se zabrinjavajući trend. Naime, nedavno se na društvenim mrežama poput TikToka i X pojavio sve veći broj hiperrealističnih nasilnih video snimaka koji prikazuju žene i devojčice kako se guše.

Ako takvi video snimci ne prikazuju stvarne ljude već ih generiše veštačka inteligencija, njihov sadržaj je prilično zastrašujući. Neki od ovih video snimaka imaju vodeni žig Sora 2, tako da će oni koji obrate pažnju ipak shvatiti da je u pitanju lažni video. Međutim, neki od ovih video snimaka nemaju vodene žigove, što znači da su korisnici pronašli način da ih uklone ili koriste druge alate za generisanje veštačke inteligencije.

Iako objavljivanje takvog sadržaja koji prikazuje nasilje nad ženama i devojčicama krši pravila pomenutih platformi, TikTok i X nisu odmah reagovali na njihovu pojavu i širenje. Tek nakon medijskog pritiska, TikTok je uklonio jedan od takvih naloga koji je objavljivao video snimke davljenja žena i devojčica, dok Maskova platforma X još nije reagovala i ovi video snimci su i dalje dostupni, komentarisali su na veb-sajtu Digital Trends.

Manja osetljivost na stvarno nasilje

Pored činjenice da neko kreira i deli takav uznemirujući sadržaj, izloženost onlajn nasilju može desenzibilizirati ljude, odnosno učiniti ih manje osetljivim na stvarno nasilje. To je takođe još jedan dokaz koliko je već lako stvoriti tako realistične lažne snimke nasilja, i možemo se samo pitati šta možemo očekivati u budućnosti. Takvi lažni i stvarni video snimci u kojima učestvuju neke poznate ličnosti, političari i slično mogli bi izazvati velike probleme i imati ozbiljne posledice po bezbednost, zakonodavstvo i celo društvo.

Upravo zato raste pritisak javnosti na OpenAI i druge kompanije za veštačku inteligenciju, kao i na društvene mreže, da uvedu strože zaštitne mere i mehanizme za prepoznavanje nasilnog sadržaja veštačke inteligencije, što će svakako biti izazov, prenosi digitaltrends.com.

Bonus video:

Ostavite komentar