AI的張良計與過墻梯
在今年的3·15上,果不其然AI被點名了。拋去屬于“質(zhì)量問題”的虛假智能產(chǎn)品以外,更引人關(guān)注還要數(shù)“智能騷擾電話”。相關(guān)報道提到,一些所謂的“大數(shù)據(jù)企業(yè)”通過WiFi探針識別到連接無限網(wǎng)絡(luò)的手機。然后,在用戶完全不知情的情況下獲取用戶的私人MAC信息,再將MAC轉(zhuǎn)換為手機號碼,與大數(shù)據(jù)相互“匹配”,再利用仿真人的AI機器人進行外呼。
這其中,AI參與的環(huán)節(jié)其實只有最后的外呼一步。其原理和智能語音客服沒有差別,都是通過語音生成技術(shù)替代人力,實現(xiàn)廣泛的高效騷擾。
被曝光后,很多人開始討論起AI的倫理問題、AI的負面效應(yīng)等等。
可我們只想說一句:這才哪兒到哪兒。
AI技術(shù)有幾個顯著的特點,比如足以替代人類的超高識別效率,又比如對于圖像、聲音強大的模仿能力和生成能力,加上日益提升的理解能力。這一切足以讓AI成為“天生的騙子”,這一次3·15所揭露出的,僅僅是冰山一角而已。
砍平門檻:AI如何讓我們的世界門戶大開?
今天,我們就可以從AI的幾項能力上來看看,那些已經(jīng)出現(xiàn)在我們身邊,已經(jīng)即將到來的AI行騙方式。
首先是高效的識別能力。
利用機器識別出一段語音、一張圖片或是一張面孔,本來與行騙一事關(guān)聯(lián)不大。但這種能力破解的是一種以效率增加行騙作惡成本的保護機制。
就拿發(fā)騷擾郵件、騷擾短信這件事來說,當(dāng)同一個IP的行為太過頻繁時,驗證碼機制的加入可以拖緩發(fā)送效率,讓行騙者無法使用腳本進行自動發(fā)送。
而AI圖像識別的出現(xiàn),就徹底破壞了這一機制。在2017年曝光過的“1·03”網(wǎng)絡(luò)“黑產(chǎn)”系列專案中,黑客就是用AI的圖像識別能力識別圖片驗證碼,識別正確率高達95%以上。在此平臺被打掉的前3個月,已經(jīng)提供驗證碼識別服務(wù)259億次。
如此一來,行騙成本和難易程度都被大大降低,為后續(xù)的行為創(chuàng)造了極大的空間。
信任崩塌:當(dāng)AI可以制造幻覺
在踩進門檻之后,AI的學(xué)習(xí)能力便成為了最大的威脅。當(dāng)眼見不能為實,耳聽也可能為虛時,我們原本能夠應(yīng)用上的驗證方法便會立即失效。
這其中有最臭名昭著的AI換臉:去年曾經(jīng)有開發(fā)者在社區(qū)中分享自己利用深度神經(jīng)網(wǎng)絡(luò)將影片中女主角臉部替換的過程,只需要在視頻網(wǎng)站上找到替換對象各個角度的照片和視頻,進行數(shù)據(jù)標注,再利用TensorFlow上模型對原視頻女主的表情、口型進行學(xué)習(xí),就可以在數(shù)據(jù)庫中找到對應(yīng)的圖像和視頻進行替換。
前幾天驚艷四座的“楊冪換臉朱茵版黃蓉”,也應(yīng)用的是類似的技術(shù)。這便意味著,也許很快在我們接到視頻電話時,連對方熟悉的相貌都不能相信。
也許大家會覺得,雖然AI能夠攻破內(nèi)容,但視頻、電話等等整個溝通過程還是相對安全的?蓪嶋H上,通過對語音的模仿在微信上進行詐騙的事件已經(jīng)開始發(fā)生在我們身邊。
去年的燕趙都市報曾經(jīng)報道過一樁案件,一位女士在微信上接到父親的微信消息,稱需要借款,該女士要求父親發(fā)送語音驗證,結(jié)果自己聽到的卻是犯罪分子通過語音生成技術(shù)模仿的聲音。
而且語音模仿的門檻要比圖像模仿的門檻低很多,就拿科大訊飛曾在2018年展示過的聲紋技術(shù)識別來說,只需要一分鐘的語料,就能夠惟妙惟肖的模仿出對方的聲音。

請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
推薦專題
-
8 每日AI全球觀察
- 1 特斯拉工人被故障機器人打成重傷,索賠3.6億
- 2 【行業(yè)深度研究】退居幕后四年后,張一鳴終于把算法公司變成AI公司?
- 3 AI 時代,阿里云想當(dāng)“安卓” ,那誰是“蘋果”?
- 4 拐點已至!匯川領(lǐng)跑工控、埃斯頓份額第一、新時達海爾賦能扭虧為盈
- 5 硬剛英偉達!華為發(fā)布全球最強算力超節(jié)點和集群
- 6 隱退4年后,張一鳴久違現(xiàn)身!互聯(lián)網(wǎng)大佬正集體殺回
- 7 00后華裔女生靠兩部AI電影狂賺7.8億人民幣,AI正式進軍好萊塢
- 8 谷歌“香蕉”爆火啟示:國產(chǎn)垂類AI的危機還是轉(zhuǎn)機?
- 9 機器人9月大事件|3家國產(chǎn)機器人沖刺IPO,行業(yè)交付與融資再創(chuàng)新高!
- 10 美光:AI Capex瘋投不止,終于要拉起存儲超級周期了?
- 生產(chǎn)部總監(jiān) 廣東省/廣州市
- 資深管理人員 廣東省/江門市
- Regional Sales Manager 廣東省/深圳市
- 銷售總監(jiān) 廣東省/深圳市
- 結(jié)構(gòu)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 自動化高級工程師 廣東省/深圳市
- 技術(shù)專家 廣東省/江門市
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 封裝工程師 北京市/海淀區(qū)