ChatGPT ponekad može da deluje kao da razmišlja poput vas, ali čekajte dok ne počne da zvuči baš kao vi. To je mogućnost koju je otkrio novi napredni Voice Mode za ChatGPT, posebna verzija GPT-4o modela.
OpenAI je prošle nedelje objasnio šta sve GPT-4o može, ali i šta ne može da uradi, uključujući mogućnost da napredni Voice Mode oponaša glas korisnika bez njihovog pristanka, iako je ta mogućnost malo verovatna.
Napredni Voice Mode omogućava korisnicima da vode razgovore sa AI chatbotom, s ciljem da interakcija postane prirodnija. AI nudi nekoliko unapred definisanih glasova koje korisnici mogu da biraju.
Ipak, nemojte se iznenaditi ako ChatGPT iznenada počne da imitira vaš glas.
OpenAI je otkrio da ova funkcija može pokazati neočekivano ponašanje u određenim situacijama. Tokom testiranja, buka koju je zabeležio mikrofon uređaja ponekad je uzrokovala da AI oponaša glas korisnika.
Model GPT-4o generiše glasove koristeći skriveni skup sistemskih instrukcija koji usmeravaju ponašanje modela tokom interakcije sa korisnikom. Kada je reč o sintezi glasa, ovaj sistem se oslanja na autorizovani uzorak glasa. Međutim, iako sistem usmerava ponašanje AI-a, on nije nepogrešiv.
Sposobnost modela da sintetiše glas iz kratkih audio snimaka znači da bi, u određenim uslovima, mogao da generiše glasove nalik vašem.
„Generisanje glasa može se dogoditi u određenim situacijama, kao što je upotreba ove funkcije u naprednom Voice Mode-u ChatGPT-a. Tokom testiranja, takođe smo primetili retke slučajeve u kojima bi model nenamerno generisao izlaz koji imitira glas korisnika,“ objasnio je OpenAI. „Iako slučajno generisanje glasa i dalje postoji kao nedostatak modela, koristimo dodatne klasifikatore kako bismo osigurali da se razgovor prekine ako se to dogodi, čime je rizik od nenamernog oponašanja glasa minimalan.“
Kako je OpenAI naveo, od tada su ugradili određene mere zaštite kako bi sprečili ovakve slučajeve. To uključuje upotrebu klasifikatora izlaza dizajniranog da detektuje odstupanja od unapred izabranih autorizovanih glasova. Ovaj klasifikator služi kao zaštitna mera, osiguravajući da AI ne generiše neautorizovani audio.
Izvor: TopFm
Foto: Bigstock-Chetroni Daniel