ČOVEK KOJI JE STVORIO CHATGPT SADA UPOZORAVA: "Dolazi trenutak kada će veštačka inteligencija..."

Niko zapravo ne zna šta će se dogoditi kada veštačka inteligencija dođe do tačke u kojoj počne u potpunosti sama sebe da trenira, upozorava Džared Kaplan, suosnivač i glavni naučni direktor kompanije Anthropic, koja razvija popularni AI model Claude.

Kaplan, fizičar koji je prešao u svet veštačke inteligencije i postao jedna od ključnih figura Silicijumske doline, izjavio je da bi prepuštanje AI sistema samima sebi moglo da izazove pravu "eksploziju inteligencije".

Međutim, on ističe da je to ujedno i najveći mogući rizik, kao i verovatno najstrašniji potez koji čovečanstvo može da povuče. Prema njegovim procenama, ta prelomna tačka mogla bi da nastupi između 2027. i 2030. godine, dok najnapredniji AI sistemi već danas pomažu programerima u kreiranju novih modela.

Naučnik koji stoji iza temelja ChatGPT-ja

Kaplan nije spoljni teoretičar niti neko ko širi paniku – on je čovek koji je postavio matematičke temelje današnjeg buma veštačke inteligencije. Dok je radio u kompaniji OpenAI, vodio je istraživanje koje je dokazalo da veći modeli i veća računarska snaga daju dramatično bolje rezultate. Takođe je direktno učestvovao u stvaranju modela GPT-3, na kom je kasnije nastao ChatGPT.

Zajedno sa kolegama napustio je OpenAI 2021. godine kako bi osnovao Anthropic, i to upravo iz razloga što su smatrali da moraju da se pripreme za trenutak kada će čovečanstvo početi da prepušta kontrolu mašinama. Njegov zadatak danas jeste da osigura da razvoj AI-ja ne ode u pogrešnom smeru.

Njegova upozorenja sve češće odjekuju i među samim inženjerima. Džejkob Kokson, istraživač koji je nedavno dao otkaz u Anthropicu, javno je poručio da se vodeće tehnološke kompanije "kockaju sa našim životima" jer dopuštaju da se modeli sami usavršavaju.

Strah od gubitka kontrole

Na oprez poziva i izvršni direktor Anthropica, Dario Amodei, koji je nedavno upozorio da bi razvojne laboratorije morale da uspore tempo. Amodei ističe da veštačka inteligencija napreduje drastično brže prvenstveno zato što već sada sama pomaže u stvaranju sledeće generacije sistema. Ukoliko se to ne stavi pod strogi nadzor, tehnologija bi mogla da prevaziđe ljudsku sposobnost razumevanja i upravljanja tim procesima.

Iako se nalaze u stalnom poslovnom i tehnološkom rivalstvu, sa ovim crnim procenama slažu se i šef OpenAI-ja Sam Altman, kao i Ilon Mask. Obojica su u više navrata podržala teze da nekontrolisani razvoj veštačke inteligencije i stvaranje sistema koji samostalno donose odluke predstavljaju egzistencijalnu pretnju po čovečanstvo, zbog čega zahtevaju strogu regulaciju i uvođenje sigurnosnih kočnica.

Inženjeri traže uvođenje "dugmeta za gašenje"

Ova rasprava stigla je i do američkih zakonodavaca u Vašingtonu, koji sve glasnije razmatraju donošenje novih zakona o bezbednosti AI tehnologija. Bivši inženjeri podsećaju da je ključno da javnost i političari čuju stvarne stručnjake koji grade te sisteme, a ne samo timove zadužene za odnose sa javnošću.

Nekadašnji članovi tima ističu da pozivi vodećih ljudi kompanija na uvođenje mehanizma za gašenje sistema u slučaju opasnosti (tzv. kill switch) pokazuju koliko je situacija zapravo ozbiljna.

Kako navodi jedan od bivših istraživača koji je radio sa Kaplanom, dopustiti veštačkoj inteligenciji da se automatski sama unapređuje predstavlja "suludo kockanje", čak i ako tim procesom upravljaju najrazumniji ljudi na svetu.

Ostavite komentar