最近幾年，計(jì)算力的提升、算法改進(jìn)和大數(shù)據(jù)的出現(xiàn)，讓人工智能重新爆發(fā)。作為一種技術(shù)，人工智能可以用來做許多事。但是，如果把人工智能(AI)應(yīng)用于惡意軟件的開發(fā)會(huì)發(fā)生什么？威脅行為者可以使用AI驅(qū)動(dòng)的惡意軟件來創(chuàng)建強(qiáng)大的惡意代碼，以逃避復(fù)雜的防御。

IBM研究院的安全研究人員開發(fā)了一種由人工智能驅(qū)動(dòng)的“高度針對性和回避性”攻擊工具，DeepLocker能夠隱藏其惡意，直到它感染特定目標(biāo)。

專家在博客中寫道：IBM研究院開發(fā)了DeepLocker，以更好地了解現(xiàn)有的幾種AI模型如何與當(dāng)前的惡意軟件技術(shù)相結(jié)合，以創(chuàng)建一種特別具有挑戰(zhàn)性的新型惡意軟件。

“這類由人工智能驅(qū)動(dòng)的惡意軟件可以隱藏其意圖，直到它觸達(dá)特定受害者。一旦AI模型通過面部識別、地理定位和語音識別等指標(biāo)識別目標(biāo)，它就會(huì)釋放惡意行為。”

根據(jù)IBM研究人員的說法，DeepLocker能夠避免檢測并僅在特定條件匹配后激活自身。人工智能惡意軟件是高目標(biāo)攻擊的特權(quán)選擇，就像民族國家行為者所做的那樣。惡意代碼可以隱藏在有害的應(yīng)用程序中，并根據(jù)各種指標(biāo)選擇目標(biāo)，比如語音識別、面部識別、地理定位和其他系統(tǒng)級功能。

“DeepLocker將其惡意負(fù)載隱藏在良性運(yùn)營商應(yīng)用程序中，比如視頻會(huì)議軟件，以避免被大多數(shù)防病毒和惡意軟件掃描程序檢測到?！盜BM專家表示。

“DeepLocker的獨(dú)特之處在于，AI的使用讓解鎖攻擊的‘觸發(fā)條件’幾乎不可能進(jìn)行逆向工程。只有達(dá)到了預(yù)期目標(biāo)時(shí)，才會(huì)解鎖惡意有效負(fù)載。它通過使用深度神經(jīng)網(wǎng)絡(luò)(DNN)AI模型實(shí)現(xiàn)這一目標(biāo)?！?/p>

研究人員通過將WannaCry勒索軟件隱藏在視頻會(huì)議應(yīng)用程序中并將其保密，直到通過面部識別識別出受害者為止，他們分享了概念驗(yàn)證。專家指出，可以通過將受害者的臉部與公開照片相匹配來識別目標(biāo)。

“為了展示DeepLocker功能的含義，我們設(shè)計(jì)了一個(gè)概念驗(yàn)證。我們在一個(gè)良好的視頻會(huì)議應(yīng)用程序中偽裝一個(gè)著名的勒索軟件(WannaCry)，以便它不被惡意軟件分析工具(包括防病毒引擎和惡意軟件沙箱)監(jiān)測到。作為觸發(fā)條件，我們訓(xùn)練AI模型識別特定人員的面部以解鎖勒索軟件并在系統(tǒng)上執(zhí)行。”

“想象一下，這個(gè)視頻會(huì)議應(yīng)用程序是由數(shù)百萬人分發(fā)和下載的，這在許多公共平臺上現(xiàn)在都是合理的。推出時(shí)，該應(yīng)用程序會(huì)秘密地將相機(jī)快照提供給嵌入式AI模型，但除了預(yù)定的目標(biāo)之外，所有其他用戶都表現(xiàn)正常，“研究人員補(bǔ)充道。

“當(dāng)受害者坐在電腦前并使用該應(yīng)用程序時(shí)，相機(jī)會(huì)將他們的臉部送到應(yīng)用程序，并且由于受害者的臉，這是解鎖它的預(yù)編程鍵，因此將秘密執(zhí)行惡意有效載荷。”

據(jù)悉，IBM研究小組將在拉斯維加斯舉行的黑帽安全大會(huì)的現(xiàn)場提供更多詳細(xì)信息。