“AI馬斯克”泛濫：口型和聲音都高度吻合，甚至還有南非口音！普通人幾乎無法辨別，82歲老人被騙近500萬元畢生積蓄
隨著人工智能（AI）的發(fā)展迭代，生成式AI正以前所未有的速度重塑著日常生活，但由此衍生出的新騙局、新套路也在刷新人們對風險防范的認知。這背后不僅關乎廣大消費者的財產安全，還潛藏著人身安全的風險和隱患。
近日，外媒曝光了一種全新的數(shù)字詐騙，詐騙犯利用復雜的AI工具 *** 特斯拉CEO馬斯克等名人的視頻，并利用這些“AI名人”對各種虛假的產品或“投資”進行背書，并承諾高額投資回報。
在其中一個典型案例中，“AI馬斯克”背書的一家所謂的外匯公司輕松騙走了一名82歲的退休老人超過69萬美元（約495萬元人民幣）的畢生積蓄。
在這類騙局中，詐騙犯通常先尋找一個真實的采訪馬斯克的視頻，再使用AI工具將他的聲音替換，并利用口型同步技術編輯馬斯克的口型，讓視頻看起來更加真實。對于普通人來說，這種以假亂真的視頻可能是非常難以辨別的。
除了馬斯克外，“股神”巴菲特和亞馬遜創(chuàng)始人杰夫?貝索斯等也是常出現(xiàn)在這類詐騙視頻中的名人。
“AI馬斯克”泛濫，生成僅需幾分鐘，卻有人被騙近500萬元
最近幾個月來，成千上萬個由AI驅動的視頻在互聯(lián)網上泛濫，這類視頻被稱為“深度偽造（deepfakes）”。根據(jù)德勤的估計，AI驅動的“深度偽造”視頻/廣告預計每年將造成數(shù)十億美元的欺詐損失。
然而，這些視頻的 *** 成本只有幾美元，幾乎可以忽略不計，而且可以在幾分鐘內完成。這類視頻由于名人效應在社交媒體上被廣泛推廣，包括Facebook上的付費廣告，擴大了它們的影響范圍。
騙子們會從一段真實的視頻開始，比如下面這段來自《華爾街日報》的采訪馬斯克視頻，提問者是該報一名編輯Thorold Barker，他的聲音也出現(xiàn)在視頻片段中。
圖片來源：《華爾街日報》
在“深度偽造”視頻中，馬斯克的嘴部動作用唇部同步技術進行了編輯，這種技術可以調整一個人的說話方式。騙子還會用語音克隆工具添加AI聲音，這種工具可以從樣本中復制任何他們想要的聲音。因此，最終的視頻對于普通的互聯(lián)網用戶來說，可能相當有說服力。
已有人因此上當受騙，82歲的退休老人Steve Beauchamp便是典型案例。據(jù)外媒報道，去年年底，82歲的退休老人Beauchamp觀看了一段視頻廣告。視頻中馬斯克支持一個承諾快速回報的激進投資機會，口型與聲音都高度吻合，還融入了馬斯克標志性的南非口音，看起來極為真實。于是，Beauchamp聯(lián)系了該廣告背后一家名為Magna-FX的外匯公司，開設了一個248美元的賬戶。經過數(shù)周的一系列交易，Beauchamp耗盡了他的退休賬戶，最終投資了69多萬美元（約合495萬元），而這些錢都被卷走了。
另據(jù)非營利性消費者權益組織美國商業(yè)促進局的一份報告，一名得克薩斯州人表示，他在看到馬斯克于2023年2月在所謂的YouTube“直播”視頻中發(fā)言后，損失了價值3.6萬美元的比特幣。其稱，“我把比特幣發(fā)送了出去，卻再也沒有收到任何東西?！?/p>
負責監(jiān)控和檢測“深度偽造”的公司Sensity分析了2000多個深度偽造視頻后發(fā)現(xiàn)，到目前為止，馬斯克是這類視頻中最常見的“AI形象”。具體來說，自去年年底以來，“AI馬斯克”出現(xiàn)在近1/4的“深度偽造”騙局中。而在加密貨幣相關的“深度偽造”視頻中，他出現(xiàn)的頻率甚至高達90%。
對此，研究加密貨幣社區(qū)的專家表示，馬斯克在全球擁有獨特的粉絲群，其中包括保守派、反建制派和加密貨幣愛好者，這類群體往往會被另類的發(fā)財途徑所吸引，這也使他們成為數(shù)字詐騙犯的完美目標。而且這類群體中，年紀較大的互聯(lián)網用戶往往更容易成為詐騙犯的目標，這類群體對加密貨幣、AI和馬斯克都非常熟悉，但他們的警惕性往往不足。
除了馬斯克外，“股神”巴菲特和亞馬遜創(chuàng)始人杰夫?貝索斯等也是常出現(xiàn)在這類詐騙視頻中的名人。
AI技術成詐騙工具，F(xiàn)acebook和Youtube是重災區(qū)
外媒報道中稱，目前來看，很難量化到底有多少“深度偽造”視頻在網上流傳，但在Facebook的廣告庫中搜索這些騙局的常用關鍵詞，能搜索到數(shù)十萬個廣告，其中許多都包含“深度偽造”視頻。
盡管Facebook已經刪除了許多違反其政策的視頻，并關閉了一些賬戶，但其他視頻仍在網上流傳，而且似乎每天都有更多的視頻出現(xiàn)。不僅是Facebook，YouTube上也充斥著這些造假視頻，而且通常使用“直播（live）”標簽。但事實上，這些視頻是預先錄制的”深度偽造”視頻。
YouTube在一份聲明中說，僅今年一季度，就刪除了超過1570萬個頻道和超過820萬個視頻，這些內容大多因違反其反垃圾郵件政策而被刪除。
這類“深度偽造”廣告的盛行還導致澳大利亞億萬富翁Andrew Forrest提起民事訴訟，控告Facebook的母公司Meta在廣告業(yè)務運營方面存在疏忽。他認為，F(xiàn)acebook的廣告業(yè)務誘使“無辜用戶進行了錯誤的投資”。Meta則表示，其正在培訓自動檢測系統(tǒng)，以捕捉其平臺上的欺詐行為，但同時也提到，資金雄厚的欺詐者會不斷變換策略以逃避檢測。YouTube則表示，其政策禁止欺詐和篡改視頻，并于今年3月要求創(chuàng)作者在使用AI創(chuàng)作真實內容時必須披露。
事實上，數(shù)字詐騙并不新鮮，但自去年AI工具開源后，新一波“深度偽造”視頻井噴。
今年早些時候，美國聯(lián)邦貿易委員會（FTC）和FBI也發(fā)出警告稱，AI驅動的 *** 犯罪和深度欺詐正在上升。FBI表示，“犯罪分子正在利用AI讓 *** 攻擊和其他犯罪活動更有效，更難以被發(fā)現(xiàn)”。
“深度偽造”視頻并不完美，甚至在一些視頻中，“AI馬斯克”的嘴型都對不上，但有專家表示，對于一些詐騙犯的目標群體來說，他們 *** 的視頻似乎足夠有說服力，而且一直在改進。
此外，一些騙局還經常宣傳虛假的人工智能軟件，稱它們可以產生可觀的投資回報。詐騙犯以此誘使目標受眾一開始只投一小筆錢（大約250美元）。隨后，騙子不斷宣稱投資會升值，人們往往慢慢被引誘投入更多資金。
被騙了畢生積蓄的Beauchamp在提交給美國商業(yè)改進局（Better Business Bureau）的報告中表示：“此刻，我愿接受所有指責與嘲諷，作為對自己輕信的懲罰?！?/p>
他表示，目前正依靠一個未向詐騙者透露的較小退休賬戶及養(yǎng)老金來維持生計，而他原本計劃使用這些積蓄環(huán)游世界。Beauchamp已經向當?shù)鼐綀蟀?，但案件進展緩慢。“由于到處都是欺詐案件，我的案件被放在了隊列中，”他說，“我沒有抱太大希望?！?/p>
每日經濟新聞
相關文章
最新評論