世界球精選！和AI網(wǎng)聊10分鐘被騙430萬(wàn)驚呆全網(wǎng) 官方：AI詐騙成功率接近100%

2023-05-23 15:52:28 來(lái)源：

防不勝防，10分鐘就被AI騙走430萬(wàn)！

這是這兩天震驚全網(wǎng)的真實(shí)詐騙案件。

(資料圖)

據(jù)包頭警方發(fā)布，一公司老板接到朋友的微信視頻電話(huà)，由于長(zhǎng)相和聲音確認(rèn)都是“本人”，他絲毫沒(méi)有懷疑就把錢(qián)打了過(guò)去。

結(jié)果一問(wèn)朋友，對(duì)方根本不知道此事。這人才知道，原來(lái)詐騙者DeepFake了他朋友的面部和聲音。

消息一出，直接沖上熱搜第一。網(wǎng)友們紛紛表示：離大譜啊！不敢接電話(huà)了。

也有人提出質(zhì)疑：AI這么好訓(xùn)練？這需要掌握個(gè)人的大量信息吧。

不過(guò)，雖說(shuō)是看上去離譜的小概率事件，但據(jù)相關(guān)統(tǒng)計(jì)，AI技術(shù)新騙局來(lái)襲后，詐騙成功率竟接近100%。

畢竟連那些直播賣(mài)貨“楊冪”“迪麗熱巴”、B站歌手“孫燕姿”“林俊杰”都不是真的。

△圖源抖音@娛樂(lè)日爆社，疑似直播間用楊冪的AI換臉帶貨

10分鐘被AI騙走430萬(wàn)

據(jù)微信號(hào)平安包頭介紹，一個(gè)月前，福州市一科技公司法人代表郭某，突然接到好友的微信視頻。

聊天過(guò)程中，這個(gè)“好友”透露，自己朋友在外地投標(biāo)，需要430萬(wàn)保證金，且公對(duì)公賬戶(hù)過(guò)賬，所以想用郭某公司的賬戶(hù)走一下賬。

背景介紹之后，“好友”就找郭某要了銀行卡號(hào)，而后甩出一張銀行轉(zhuǎn)賬底單的截圖告訴郭某，已經(jīng)把錢(qián)打到了郭某的賬戶(hù)上。

結(jié)果因?yàn)橐呀?jīng)視頻聊天以及各種“物證”，郭某并沒(méi)有過(guò)多懷疑，甚至也沒(méi)去核實(shí)錢(qián)款是否到賬。

幾分鐘之后郭某就分兩筆將錢(qián)打了個(gè)過(guò)去，本想去跟好友報(bào)備一下：“事情已經(jīng)辦妥”。

然而，好友緩緩打出來(lái)一個(gè)問(wèn)號(hào)。

好在郭某反應(yīng)比較快，第一時(shí)間報(bào)警。于是在警方和銀行聯(lián)動(dòng)下，僅用時(shí)10分鐘就成功攔截了330多萬(wàn)元被騙資金。

有網(wǎng)友表示，AI正成為騙子高手新一代工具。

還有網(wǎng)友調(diào)侃道，我沒(méi)錢(qián)，哪個(gè)都騙不了我。（等等，好友有錢(qián)也不行doge）

而在這起案件背后，核心涉及了AI換臉以及語(yǔ)音合成這兩個(gè)技術(shù)。

大眾所熟知的AI換臉?lè)矫?，現(xiàn)在即便一張2D照片，就能讓口型動(dòng)起來(lái)。據(jù)此前新華每日電訊消息，合成一個(gè)動(dòng)態(tài)視頻，成本也僅在2元至10元。

當(dāng)時(shí)涉案嫌疑人表示：“客戶(hù)”往往是成百上千購(gòu)買(mǎi)，牟利空間巨大。

至于面向更精準(zhǔn)、更實(shí)時(shí)的大型直播平臺(tái)，視頻實(shí)時(shí)換臉的全套模型購(gòu)買(mǎi)價(jià)格在3.5萬(wàn)元，而且不存在延遲、也不會(huì)有bug。

至于像語(yǔ)音合成方面，技術(shù)效果也是越來(lái)越逼真，新模型和開(kāi)源項(xiàng)目涌現(xiàn)。

前段時(shí)間，微軟新模型VALL·E炸場(chǎng)學(xué)術(shù)圈：只需3秒，就可以復(fù)制任何人的聲音，甚至連環(huán)境背景音都能模仿。

而具備語(yǔ)音合成功能的工具Bark，更是曾登頂GitHub榜首，除了聲色接近真人，還能加入背景噪音和高度擬真的笑聲、嘆息和哭泣聲等。

在各類(lèi)社交網(wǎng)絡(luò)上，各種小白教程也層出不窮。

要是結(jié)合虛擬攝像頭，可能就更加防不勝防。

只需一個(gè)軟件應(yīng)用程序，就可以在視頻通話(huà)中使用任意視頻資源。

△圖源微博@啞巴

點(diǎn)擊接通后，對(duì)方完全不會(huì)看到播放、暫停視頻等具體操作，只會(huì)看到視頻播放的效果，“接通后看到的就是美女了”：

△圖源微博@啞巴

這樣一來(lái)，不僅視頻可以通過(guò)虛擬攝像頭，隨意拍攝甚至更換，甚至連說(shuō)話(huà)方式都可以真人定制：

△圖源微博@啞巴

核心技術(shù)門(mén)檻的降低，也就給了犯罪分子可乘之機(jī)。

AI新騙局成功率接近100%

事實(shí)上，AI加持下的新型網(wǎng)絡(luò)詐騙，并不止這一種操作。

無(wú)論是國(guó)內(nèi)還是國(guó)外，都有不少用AI換臉的詐騙案例，小到在網(wǎng)絡(luò)購(gòu)物、兼職刷單等方面騙點(diǎn)小錢(qián)，大到冒充客服、投資理財(cái)人員等身份，獲取銀行卡賬號(hào)密碼直接轉(zhuǎn)一大筆賬，都有出現(xiàn)。

在國(guó)內(nèi)，據(jù)南京警方消息，此前就出現(xiàn)過(guò)一起被QQ視頻AI詐騙3000元的案例。

當(dāng)事人小李表示，自己的大學(xué)同學(xué)小王通過(guò)QQ跟自己借3800元，稱(chēng)自己很著急，因?yàn)楸斫阕≡毫恕?/p>

小李懷疑了小王的身份，而小王很快給她傳來(lái)了一個(gè)4~5秒左右的動(dòng)態(tài)QQ視頻，不僅背景在醫(yī)院，而且還打了聲招呼。

這讓小李打消了疑慮并轉(zhuǎn)了3000元，然而隨后發(fā)現(xiàn)對(duì)方已經(jīng)將她刪除拉黑，發(fā)現(xiàn)視頻原來(lái)是AI偽造的。

目前包括北京反詐、武漢市反電信網(wǎng)絡(luò)詐騙中心等官方公眾號(hào)平臺(tái)，都警告了AI技術(shù)新騙局的嚴(yán)重性，甚至表示“詐騙成功率接近100%”。

可別以為這些詐騙現(xiàn)象只在國(guó)內(nèi)出現(xiàn)，國(guó)外的語(yǔ)音詐騙同樣花樣百出。

一種方式是用AI合成語(yǔ)音騙取電話(huà)轉(zhuǎn)賬。

據(jù)Gizmodo介紹，英國(guó)最近就同樣發(fā)生了一起涉及金額高達(dá)22萬(wàn)英鎊（折合人民幣約192.4萬(wàn)元）的詐騙案件。

一位當(dāng)?shù)啬茉垂镜腃EO，在不知情的情況下被騙子“DeepFake”了自己的聲音。隨后，騙子用他這段聲音，電話(huà)轉(zhuǎn)賬了22萬(wàn)英鎊到自己的匈牙利賬戶(hù)。

據(jù)CEO表示，他后來(lái)自己聽(tīng)到這段AI合成語(yǔ)音時(shí)都驚訝了，因?yàn)檫@段語(yǔ)音不僅模仿出了他平時(shí)說(shuō)話(huà)的語(yǔ)調(diào)，甚至還帶有一點(diǎn)他的口癖，有點(diǎn)像是某種“微妙的德國(guó)口音”。

另一種則是用合成語(yǔ)音冒充親友身份。

據(jù)nbc15報(bào)道，美國(guó)一位名叫Jennifer DeStefano的母親，最近接到了一個(gè)自稱(chēng)是“綁匪”的詐騙電話(huà)，對(duì)方稱(chēng)劫持了她15歲的女兒，要求這位母親交出100萬(wàn)美元的贖金。

電話(huà)那頭傳來(lái)了女兒的“呼救聲”，不僅聲音、就連哭聲都非常相似。幸運(yùn)的是她的丈夫及時(shí)證明了女兒是安全的，這次詐騙才沒(méi)能成功。

現(xiàn)在，不僅是詐騙，在AI技術(shù)加持下，就連楊冪、迪麗熱巴們都在今天引發(fā)了熱議。

原來(lái)，這是商家們想出的新“搞錢(qián)之道”，那就是在直播的時(shí)候，用AI換臉等技術(shù)“Deepfake”一下楊冪、迪麗熱巴、Angelababy等明星的臉，這樣大家就會(huì)誤以為是明星本人在帶貨，從而拉升直播流量。

然而，這類(lèi)行為目前還不能被直接判定為侵權(quán)。據(jù)21世紀(jì)經(jīng)濟(jì)報(bào)道，北京云嘉律師事務(wù)所律師趙占領(lǐng)表示：

平臺(tái)對(duì)于平臺(tái)內(nèi)商家的侵權(quán)行為不承擔(dān)直接侵權(quán)的責(zé)任，而是否構(gòu)成幫助侵權(quán)，主要是看平臺(tái)對(duì)于商家的侵權(quán)行為是否屬于明知或應(yīng)知。

但對(duì)于如何判定平臺(tái)對(duì)用戶(hù)、權(quán)利人的投訴是否明知或應(yīng)知，在一般情況下很難認(rèn)定。

顯然，在AI技術(shù)越來(lái)越火熱的當(dāng)下，相關(guān)法律也還需要進(jìn)一步完善。

One More Thing

就在昨天夜里，最近火爆全網(wǎng)的“AI孫燕姿”本人，也就是歌手孫燕姿，出來(lái)回應(yīng)了。

她發(fā)布了一篇名為《我的AI》的英文版文章，這是她團(tuán)隊(duì)的中文翻譯全文：