Tech

Artificial Intelligence is cloning the voice and this is bad news

Artificial Intelligence is cloning the voice and this is bad news

Jennifer Destefano answered a call from a number she did not recognize.

"Mommy, I'm so messed up," her daughter's voice told her, crying. "These bad people have taken me."

A man continued to demand money, or he would drug her daughter and leave her in Mexico.

But while she kept him on the phone, friends managed to meet her daughter and she was free. She was enjoying her trip to Arizona.

Zonja DeStefano, ende e tronditur, e tregoi këtë histori në një seancë dëgjimore të nënkomitetit të Senatit amerikan mbi inteligjencën artificiale në qershor. Rreziqet që paraqet teknologjia e klonimit të zërit vetëm tani kanë filluar të thuhen me zë të lartë. Në muajt e fundit, shumica e vëmendjes i është kushtuar inteligjencës artificiale si Chatgpt, të cilat prodhojnë tekst. Por implikimet e klonimit të zërit do të jenë gjithashtu të thella.

Një mostër e shkurtër e një zëri mund të përdoret për të trajnuar një model, i cili më pas mund të flasë çdo tekst.

Apple pritet të përfshijë funksionin për iPhone në sistemin e saj të ri operativ, ios 17, që do të dalë në shtator. Kjo shikohen si ndihmë për njerëzit që mund të jenë në rrezik të humbasin zërin e tyre, për shembull nga një sëmundje degjenerative.

For those eager to try voice cloning now, ElevenLabs, an AI startup, offers users the ability to create their own clones in minutes. The results are disturbing.

For several years, customers have been able to log in over the phone to their bank and other companies using their voice.

Creative industries may also face job cuts.

Voice actors, trained throughout their lives, can be fired in seconds.

Journalism will also face problems in understanding whether a statement was actually said or not.