模仿明星声音的技术已经被广泛应用了-龙游新闻网
点击关闭

转账事情-模仿明星声音的技术已经被广泛应用了-龙游新闻网

  • 时间:

丰田召回45万辆车

杨幂朱茵换脸

特朗普也中槍了。圖中的用戶自己做出了扭曲的表情,然後換成特朗普的臉,也做出了一模一樣的表情

這些年,因為在酒店被偷拍視頻、流傳到網上,給當事人帶來巨大心理壓力,從而陷入抑鬱、走上絕路的人實在是太多了。足以見得這種視頻被公開的殺傷力,然而AI技術,卻能讓你沒有干過的事情也能憑空出現、大肆流傳。

更有一些高智商但心懷不軌的人,開發了「AI脫衣」這樣的軟件。只要你提交一張女性照片,就能自動「脫掉」她的衣服,生成裸照!

一都說「眼見為實、耳聽為虛。」但是現在,眼見也未必為實!

據《華爾街日報(博客,微博)》報道,有 犯罪分子通過商業化的人工智能語音生成軟件,成功模仿冒充一家英國能源公司的德國母公司 CEO,讓下屬轉賬匯款,一天之內,就成功騙到手220,000 歐元(約合 173 萬元人民幣)!

但是,既然在任何場景都可以切換 ,自然有一些心懷不軌的人,將明星的臉換到一些黃色視頻上。

面對這類事情,很多人都是抱着「吃瓜群眾」的心態去看待的,但你有沒有想過,這樣的事情也可能會發生在你身上?畢竟AI技術這麼發達,想換誰的臉都可以。

最可怕的是,假如這種技術不止應用於普通人,還應用到重要的公眾人物身上,那這個世界可就真的亂套了。

來源 l 投資家網(ID:touzijias)

這真是太可怕了!也許未來我們的聲音可以被任何人克隆濫用。想象一下,假如騙子能夠利用我們的聲音,偽裝成我們,給家裡人或者同事朋友打電話要求轉賬匯款,那麼有多少人能識破這樣的騙局呢?

更進一步,聲音不僅可以偽裝,還可以捏造。模仿明星聲音的技術已經被廣泛應用了,而克隆普通人的聲音也已經成為現實。去年,三名蒙特利爾大學博士聯合創辦的名為「琴鳥」(Lyrebird)的公司開發出了一種「語音合成」技術,只需1分鐘目標人物的音頻樣本,就可以克隆一個人的聲音,想說什麼就能說什麼。而谷歌的研究論文,則指出未來的樣本時間可能只需5秒鐘。

在這些公眾人物一句話就能夠引發全球世界大地震的情況下,我們無法預估AI技術被濫用的殺傷力。更為可怕的是,公眾人物他們曝光的次數要更多,這也就意味着他們用來訓練AI的素材也就更多、偽裝成他們的效果也會更加逼真。

首先,要像鳥兒愛惜羽毛一樣珍惜自己的個人數據。在通過「語音」「刷臉」就可以開門、可以支付的今天,要像不要泄露你的銀行卡賬戶密碼一樣,隨隨便便就把你的個人信息外傳了。

想象一下,假如有一天,我們看到的「臉」,聽到的「聲音」,都不再是真實的;你可以不再成為你自己,而他人也可以「替代」你,這個世界還有什麼真實、什麼信任可言呢?

看了這些視頻,不僅有人感嘆,有了這項技術,現在這些小鮮肉明星也不用追求什麼演技了,只需「出賣」自己的臉,讓那些演技高的實力派代勞,事後把臉一換就大功告成了!

前段時間,奧巴馬就「說出了」一段他自己從未說過的話。

作者 l 飛碟瓜想象一下,假如你有一天接到一個電話,電話那頭傳來你老闆的聲音,他向你下達了一系列指令,比如說匯款、轉賬,你是否會遵從呢?

二顯然,用AI技術換臉的用途,遠非這一種而已。騙子偽裝成你的臉,可以干任何事,偷走你的財產、詐騙你的朋友、借高利貸……事後,你跳進黃河也很難洗得清。

此前,網上就流傳着這樣幾段視頻,把明星的臉安到別的明星身上,楊冪變朱茵、鹿晗變小龍女,這樣的換臉真的是毫無違和感!

其實現在的語音技術已經很成熟了。前段時間,「喬碧蘿殿下」事件刷爆了整個朋友圈,一個58歲大媽在直播平台偽裝成18歲少女,用的就是「變聲器」,利用這個工具,你可以任意轉換自己的聲音,大媽變蘿莉、大叔變蘿莉,都不成問題。

最後,請把這篇文章轉發給愛你和你愛的人,我們無法憑藉一己之力遏制人性之惡,但至少可以最大程度保全自己免受侵害。

但我們必須要承認,政策規制的制定涉及方方面面,必將是一個漫長的過程。在這之前,能保護我們的,只有我們自己,想要避免我們免受技術的侵害,我們必須要做到以下幾點:

這段時間被瘋狂刷屏,而又被突然整頓的換臉APP「ZAO」已經充分地提醒了我們,這樣的事情,已經離我們並不遙遠!

網上流傳的這些明星照片,一眼看過去是不是真假難辨?

那些受騙的員工紛紛表示,他們真的以為電話那頭就是自己的老闆!聲音就是一毛一樣!

其次,在涉及到錢的事情一定要萬分小心。要通過多種方式確認身份之後才能轉賬,而且即使要轉賬,也最好向對方的銀行賬戶轉賬,避免通過微信等社交軟件轉賬。一方面有利於核實對方身份,另一方面也有助於跟進轉賬信息。

如果聲音真的和自己的老闆一模一樣,向來絕大多數人都不會有所懷疑吧。但是殊不知,聲音是可以偽造的!就在今年,有騙子就利用了AI語音合成技術,騙走了173萬巨款!

可怕的是,一旦你遇到這樣的事情,就根本沒有辦法去制止。假如對方用這個來敲詐你,也許你能(在支付一筆巨款之後)要求對方刪除源文件,但你無法阻止視頻的傳播,畢竟互聯網技術這麼發達,想徹底刪除一件東西實在是太難了。如果你的同事、朋友看到這段視頻,他們會怎樣看待你?難道你能向所有認識你或者你認識的人,一一解釋這段視頻是假的,並能讓他們信服嗎?

比如神奇女俠蓋爾·加朵就曾經中招。

聽到這起案件,不得不讓我們心生憂慮——這樣的事情,會發生在我們身邊嗎?

三技術,從來都是把雙刃劍。技術有多強大、它的殺傷力就有多強大。AI技術一旦濫用,其造成的破壞力是難以估量的。因此,對新技術的監管亟需進行,以法律的紅線、監管的利劍來明確技術的底線。

鹿晗版小龙女

目前,通過換臉技術製作黃色視頻,已經形成了一條灰色產業鏈。成品視頻價格從2元1部到30元46部、100元150部和100元200部不等,一般都是打包售賣。據說,這種地下生意現在很是火爆,甚至供不應求。

今日关键词:剑桥偶遇章泽天