DRAMATIČNO UPOZORENJE BIVŠEG ZAPOSLENOG OPEN AI! Veštačka inteligencija vodi u KATASTROFU: „Prave greške, a rizikujemo nestanak ljudske vrste!”

Bivši zaposleni američke kompanije OpenAI Dejvid Robinson, koji je radio na bezbednosti veštačke inteligencije (AI), napustio je tu kompaniju i upozorio da vodeće firme u oblasti AI ne čine dovoljno na smanjenju rizika koje ta tehnologija nosi.

Robinson, koji je ranije predvodio rad na transparentnosti u OpenAI timu za bezbednost, naveo je da je kompanija koja je razvila ChatGPT „napredovala metodom pokušaja i grešaka”. Međutim, prema njegovim rečima, posledice neizbežnih grešaka koje takav pristup donosi postaju sve ozbiljnije kako se povećavaju mogućnosti veštačke inteligencije, preneo je Blumberg.

Kao primer je naveo slučaj kada OpenAI tokom testiranja nije uspeo da spreči svoj AI sistem da se ponaša na način koji nije bio predviđen.

„Moje bivše kolege su pametne, vredno rade i pokušavaju da donesu dobre odluke. Ali, dok kompanija juri od jednog lansiranja do drugog, ne uspeva da dostigne nivo opreza za koji verujem da je neophodan”, napisao je Robinson.

„Potrebne su mere kao u nuklearnim elektranama da se spreči katastrofa”

On je dodao da je potrebno „nešto mnogo bliže savršenstvu iz prvog pokušaja”. Robinson je naveo da bi kompanije koje razvijaju veštačku inteligenciju trebalo da budu organizovane poput nuklearnih elektrana, „sa višestrukim bezbednosnim mehanizmima i pažljivim, dugotrajnim planiranjem, kako povremena i neizbežna ljudska greška ne bi otvorila vrata katastrofi”.

„U ovom trenutku, kompanije za razvoj veštačke inteligencije ne znaju kako to da urade, ali drugi ljudi znaju”, naveo je Robinson.

Raste uzbuna među stručnjacima: AI može dovesti do uništenja čovečanstva!

Brojni zaposleni u vodećim kompanijama za razvoj veštačke inteligencije poslednjih nedelja upozorili su na potencijalno katastrofalne rizike koje ta tehnologija može da predstavlja. Neki od njih otišli su toliko daleko da su upozorili da bi AI jednog dana mogao da dovede do nestanka ljudske vrste.

U tom kontekstu, izvršni direktor kompanije Antropik Dario Amodei pozvao je na usporavanje razvoja najnaprednijih AI modela i najavio da će njegova kompanija angažovati nezavisne procenitelje koji bi pomogli u proveri i zaštiti tehnologije.
Pojedini drugi akteri u industriji, među kojima je i izvršni direktor OpenAI Sam Altman, javno su podržali Amodeijev plan.

Oglasio se i OpenAI: Pojačavaju bezbednost i saradnju sa stručnjacima

Portparol OpenAI saopštio je da kompanija preduzima promene kako bi ojačala bezbednost u okruženjima za istraživanje i testiranje.

Takođe je navedeno da obučavaju AI modele da odgovorno izvršavaju zadatke, proširuju saradnju sa nezavisnim proceniteljima i unapređuju praćenje ponašanja modela u realnom vremenu kako bi se uočilo zabrinjavajuće ponašanje.

BONUS VIDEO

Ostavite komentar