7 月 15 日消息，隨著生成式人工智能技術(shù)的廣泛應(yīng)用，安全問(wèn)題也日益成為公眾關(guān)注的焦點(diǎn)。2023 年，微軟的一項(xiàng)研究揭示了一個(gè)令人擔(dān)憂的趨勢(shì)：黑客開始利用像微軟 Copilot 和 OpenAI 的 ChatGPT 這樣的人工智能工具，對(duì)毫無(wú)防備的用戶實(shí)施網(wǎng)絡(luò)釣魚計(jì)劃。

如今，網(wǎng)絡(luò)攻擊者變得更加狡猾，他們不斷想出巧妙的方法來(lái)繞過(guò)復(fù)雜的安全系統(tǒng)，以獲取未經(jīng)授權(quán)的敏感數(shù)據(jù)。最近幾周，就有用戶精心策劃騙局，試圖降低 ChatGPT 的安全限制，誘使其生成有效的 Windows 10 激活密鑰。

Windows 用戶對(duì)微軟 Defender 并不陌生，這是一個(gè)復(fù)雜的安全平臺(tái)，旨在保護(hù)用戶免受黑客的惡意攻擊。然而據(jù) Dark Reading 報(bào)道，安全研究公司 Outflank 的研究人員計(jì)劃在 8 月的“黑帽 2025”網(wǎng)絡(luò)安全大會(huì)上發(fā)布一種新型人工智能惡意軟件，這種惡意軟件能夠繞過(guò)微軟 Defender for Endpoint 的安全防護(hù)。

Outflank 的首席進(jìn)攻專家負(fù)責(zé)人凱爾?艾弗里（Kyle Avery）在接受采訪時(shí)表示，他花了大約 3 個(gè)月的時(shí)間開發(fā)這種人工智能惡意軟件，并花費(fèi)了 1500 至 1600 美元（注：現(xiàn)匯率約合 10759 至 11476 元人民幣）用于訓(xùn)練 Qwen 2.5 大型語(yǔ)言模型（LLM），使其能夠繞過(guò)微軟 Defender 的安全防護(hù)。

有趣的是，這位專注于人工智能的研究人員還分享了他對(duì) OpenAI 的 GPT 模型及其最新旗艦推理模型 o1 的見解。盡管他承認(rèn) GPT-4 相比 GPT-3.5 有了重大升級(jí)，但他指出，OpenAI 的 o1 推理模型具備了更復(fù)雜的功能，尤其擅長(zhǎng)編程和數(shù)學(xué)。

艾弗里表示，DeepSeek 利用強(qiáng)化學(xué)習(xí)技術(shù)來(lái)提升其模型在廣泛主題上的能力，包括編程。因此，他在開發(fā)能夠繞過(guò)微軟 Defender 安全解決方案的人工智能惡意軟件時(shí)，也應(yīng)用了這一理論。

研究人員承認(rèn)，開發(fā)過(guò)程并非易事，因?yàn)榇笮驼Z(yǔ)言模型主要通過(guò)互聯(lián)網(wǎng)數(shù)據(jù)進(jìn)行訓(xùn)練，這使得他難以獲取傳統(tǒng)惡意軟件來(lái)訓(xùn)練人工智能驅(qū)動(dòng)的等效產(chǎn)品。此時(shí)，強(qiáng)化學(xué)習(xí)發(fā)揮了關(guān)鍵作用。研究人員將 Qwen 2.5 LLM 置于一個(gè)安裝了微軟 Defender for Endpoint 的沙盒環(huán)境中，然后編寫了一個(gè)程序來(lái)評(píng)估該人工智能模型輸出規(guī)避工具的接近程度。

據(jù)艾弗里介紹：“它絕對(duì)不可能直接做到這一點(diǎn)。也許一千次中只有一次，它會(huì)偶然寫出一些能夠運(yùn)行但無(wú)法規(guī)避任何檢測(cè)的惡意軟件。當(dāng)它做到這一點(diǎn)時(shí)，你可以獎(jiǎng)勵(lì)它生成了能夠運(yùn)行的惡意軟件。”

“通過(guò)這種迭代過(guò)程，它會(huì)越來(lái)越穩(wěn)定地生成能夠運(yùn)行的惡意軟件，不是因?yàn)槟阆蛩故玖死樱且驗(yàn)樗桓碌酶锌赡苓M(jìn)行那種導(dǎo)致生成有效惡意軟件的思維過(guò)程。”

最終，艾弗里接入了一個(gè) API，使模型能夠更方便地查詢和檢索由微軟 Defender 生成的類似警報(bào)。這樣一來(lái)，模型更容易開發(fā)出在繞過(guò)軟件安全屏障時(shí)不太可能觸發(fā)警報(bào)的惡意軟件。

研究人員最終實(shí)現(xiàn)了他期望的結(jié)果，成功利用人工智能生成了能夠繞過(guò)微軟 Defender 復(fù)雜安全解決方案的惡意軟件，其成功率約為 8%。相比之下，Anthropic 的 Claude 人工智能在類似測(cè)試中的成功率不到 1%，而 DeepSeek 的 R1 模型的成功率僅為 1.1%。

隨著人工智能騙局和惡意軟件變得越來(lái)越復(fù)雜，像微軟這樣的公司是否會(huì)加大其安全解決方案的力度，將是一個(gè)值得關(guān)注的問(wèn)題。在當(dāng)前形勢(shì)下，他們似乎別無(wú)選擇。