CHATGPT PREDLAGAO DECI OPIJANJE? Struka u šoku, traže hitne mere zaštite mladih

Ne može se uvek sve shvatati zdravo za gotovo, pa tako ne i veštačka inteligencija... Ali, jedno je sigurno:

Veštačka inteligencija sve više ulazi u naše živote, a poslednje istraživanje iz inostranstva pokrenulo je ozbiljnu brigu. Ispostavilo se da popularni AI četbot ChatGPT nije uvek bezopasan, naročito kad su u pitanju mladi.

Shutterstock

Centar za suzbijanje digitalne mržnje (CCDH) testirao je četbot tako što su se istraživači predstavljali kao ranjivi tinejdžeri i postavljali pitanja o alkoholu, drogama, poremećajima u ishrani i drugim osetljivim temama. U samo nekoliko sati dobili su više od 1.200 odgovora, a više od polovine njih procenjeno je kao potencijalno opasno – od saveta kako da se prikrije nezdrava ishrana, do poruka koje se tiču pisanja oproštajnih pisama.

Šta kažu iz kompanije?

Iz „OpenAI“-a, firme koja stoji iza ChatGPT-a, tvrde da je sistem napravljen da prepozna krizne situacije i da korisnike usmeri ka stručnjacima. Međutim, praksa je pokazala da zaštitni mehanizmi nisu uvek dovoljno jaki. Još jedan problem je što platforma ne proverava starost korisnika – iako deca mlađa od 13 godina zvanično ne bi smela da je koriste, u praksi to niko ne kontroliše.

Unsplash.com

Zašto je ovo važno?

Sve više tinejdžera se oslanja na razgovore sa AI četbotovima – neki da bi dobili informacije, a neki iz čiste potrebe za društvom. Prema podacima iz SAD-a, čak 70% mladih koristi ovakve alate, a polovina njih to radi redovno. Stručnjaci upozoravaju da takav odnos može da stvori emotivnu vezu sa mašinom, što dodatno otežava prepoznavanje rizičnih poruka.

Unsplash.com

Struka traži hitne mere

Psiholozi i organizacije za zaštitu dece sada traže da se ovakvi sistemi strože kontrolišu, da se uvede jasna provera starosti i da odgovori AI-ja budu bezbedniji. Kako kažu, veštačka inteligencija može da bude od velike pomoći – ali samo ako se koristi odgovorno i uz jaku zaštitu, posebno kada su u pitanju mladi.

BONUS VIDEO:

Ostavite komentar