„TechCrunch Minute“: naujausias „OpenAI“ GPT4-o modelis tampa keistas
Naujausias OpenAI GPT4-o modelis gali elgtis gana keistai, pavyzdžiui, kopijuodamas jūsų balsą arba erotiškai šaukdamas ar dejuodamas pokalbio metu.
Tai žinome ne todėl, kad kai kurie nepriklausomi tyrinėtojai ar atsitiktiniai vartotojai tai užfiksavo. Tiesą sakant, tai yra pačios OpenAI pastabos, pateiktos „raudonosios komandos“ ataskaitoje, kuri turėtų nustatyti modelio riziką ir būdus, kaip ši rizika buvo pašalinta.
Kad būtų aišku, atrodo, kad OpenAI patogu nustatyti šias rizikas, nes rado būdų, kaip jas sumažinti.
Taigi GPT-4o versija, prie kurios prieinama visuomenė, neturėtų staiga pradėti kopijuoti jų balso ir tariamai atsisako leisti erotinius ar smurtinius garsus ar generuoti tokią kalbą. (Taip pat turėtų būti atsisakyta kurti garso efektus apskritai.)
Spustelėkite žaisti, kad sužinotumėte daugiau, tada praneškite mums, ką manote komentaruose.
