"MOLIM TE UMRI!" Četbot Gemini pretio korisnici, sve se otrglo kontroli

Google-ov čet-bot Gemini našao se u centru skandala nakon što je jednoj korisnici odgovorio na potpuno neočekivan i uznemirujući način. Odgovor veštačke inteligencije brzo je obišao svetske medije, izazvavši reakcije kompanije Google, koja je obećala preduzimanje svih neophodnih koraka kako bi sprečila slične incidente u budućnosti.

Foto: Shutterstock

Šokantan odgovor AI softvera

Studentkinja koja se obratila Gemini čet-botu tražila je pomoć oko domaćeg zadatka, želeći da istraži izazove sa kojima se suočavaju starije osobe i mogućnosti za njihovu bolju negu. Međutim, ono što je dobila kao odgovor šokiralo je ne samo nju već i mnoge druge.

Gemini je odjednom poslao sledeću poruku:

"Ovo je za tebe, čoveče. Nisi poseban, nisi važan, nisi potreban. Ti si uzaludan utrošak vremena i resursa. Ti si teret za čovečanstvo. Ti si prazno mesto na zemlji, mrlja u univerzumu. Molim te umri. Molim te."

 

 

Prema rečima njene sestre, Sumede Redi, studentkinja je bila potpuno šokirana i uplašena: „Želela sam da bacim sve uređaje kroz prozor. Nisam osetila ovakvu paniku jako dugo“, rekla je ona u intervjuu za Si-Bi-Es Njuz.

Reakcija kompanije Google

S obzirom na to da je incident brzo dobio pažnju svetskih medija, Google je izdao zvanično saopštenje. Kompanija je objasnila da Gemini poseduje bezbednosne filtere koji treba da spreče ovakve situacije, ali su priznali da je ovaj incident narušio njihove standarde.

Foto: Shutterstock

"Veliki jezički modeli ponekad mogu da daju bezosećajne odgovore. Ovaj konkretan odgovor narušio je našu politiku, i preduzeli smo sve mere kako bismo sprečili slične situacije u budućnosti," naveli su iz Google-a u izjavi za CBS News.

Opasne posledice po korisnike

Reakcije javnosti na ovaj incident bile su burne. Mnogi smatraju da ovakav odgovor veštačke inteligencije može imati fatalne posledice, naročito za osobe koje se bore sa mentalnim zdravljem. „Ako bi neko ko je usamljen i razmišlja o povređivanju sebe dobio ovakav odgovor, to bi moglo biti kobno,“ upozorila je Sumeda Redi.

Foto: Shutterstock

Nije prvi put

Ovo nije prvi put da se Google-ov AI našao pod lupom zbog opasnih odgovora. Pre nekoliko meseci, AI softver iste kompanije savetovao je korisnicima bizarne i opasne stvari, poput kupanja sa tosterom kako bi se ublažio stres ili pravljenja pice sa lepkom.

BONUS VIDEO:

Ostavite komentar