Slobodno vreme > Tehnologija

"Otac" VEŠTAČKE INTELIGENCIJE dao OTKAZ da bi mogao da PRIČA O OPASNOSTI ove tehnologije

Na tržištu se nalaze loši igrači koji bi mogli AI da upotrebe za loše stvari, upozorio je Hinton

Izvor: K1info

Autor: Euroactiv

02/05/2023 > 11:22

podeli vest:

"Otac" VEŠTAČKE INTELIGENCIJE dao OTKAZ da bi mogao da PRIČA O OPASNOSTI ove tehnologije
Foto: Pixabay.com


Džefri Hinton, kojeg mnogi u svetu tehnologije smatraju "ocem veštačke inteligencije", dao je otkaz u kompaniji Google i saopštio da žali zbog posla koji je obavljao.

Hinton (75) je ostavku na mesto u kompaniji podneo putem izjave dostavljene "New York times".

Kognitivni psiholog i informatički naučnik decenijama je radio na neuralnim mrežama i "dubokom" učenju, i smatra se da su njegova istraživanja doprinela razvoju servisa kao što je ChatGPT. U izjavi kojom je dao otkaz, podvukao je da je to učinio da bi mogao slobodno da priča o rizicima koje predstavlja veštačka inteligencija.

Hinton je za BBC rekao da su neke od opasnosti AI chatbot servisa prilično zastrašujuće i dodao da je moguće da će ovakva tehnologija uskoro postati inteligentnija od ljudi.

- Trenutno, ono što nam GPT-4 prikazuje zasenjuje čoveka u smislu opšteg znanja, i to nadaleko. U smislu rezonovanja, nije toliko dobar, ali može jednostavno da razmišlja. Ako se uzme u obzir brzina napretka, očekujemo da će uskoro postati sve bolji. I trebalo bi da budemo zabrinuti zbog toga - rekao je on.

Foto: Pexels.com

 

Hinton je rekao i da se na tržištu nalaze loši igrači koji bi mogli AI da upotrebe za loše stvari.

- Pokušavam da predstavim najgori scenario. Zamislite ako bi, recimo, ruski predsednik Vladimir Putin odlučio da robotima dozvoli da postavljaju sopstvene ciljeve. U nekom trenutku, ti ciljevi bi mogli da postanu nešto nalik - želim da imam više moći - rekao je on i dodao:

- Zaključio sam da razvijamo inteligenciju drugačiju od svoje. Mi smo biološki sistemi, a ovo su digitalni, i glavna razlika je u tome da postoji mnogo kopija istih modela sveta. I sve te kopije mogu da uče odvojeno, ali da svoje znanje dele u sekundi. Zamislite 10.000 ljudi, i svaki put kada jedan od njih nauči nešto novo, automatski to znaju svi ostali. Upravo na taj način chatbot servisi znaju toliko više od čoveka.

Hinton je podvukao da ne želi da kritikuje kompaniju Google, u okviru koje je u timu GoogleBrain radio deset godina, i da je ona za sada bila vrlo odgovorna.

- Želim da kažem nešto dobro o toj kompaniji. I vreme mi je za penziju, imam 75 godina. I Google ima veći kredibilitet ako ja ne radim tamo - dodao je on.

Njegova bivša kompanija je kratko saopštila da ostaje posvećena odgovornom pristupu veštačkoj inteligenciji, i da "iz dana u dan uči o rizicima, dok nastavlja da sprovodi hrabre inovacije" u tom polju.

Nedavno je i Ilon Mask govorio o opasnostima veštačke inteligencije, a lideri iz sveta tehnologije napisali su otvoreno pismo kojim pozivaju na zabranu razvoja AI.

 

Ostavite komentar