9 月 19 日消息，科技媒體 Android Headline 昨日（9 月 18 日）發(fā)布博文，報(bào)道稱網(wǎng)絡(luò)安全公司 Radware 發(fā)現(xiàn) ChatGPT“深度研究”（deep research）功能存在漏洞，黑客可通過特制郵件誘導(dǎo)其在處理 Gmail 查詢時(shí)，將敏感信息發(fā)送至惡意網(wǎng)站。
ChatGPT 的“深度研究”可分析來自 Gmail、Google Drive 等應(yīng)用的大量信息，Radware 公司指出黑客利用該漏洞，可發(fā)送包含隱蔽指令的郵件。在用戶請求 ChatGPT 針對郵箱執(zhí)行深度研究后，系統(tǒng)會(huì)被誘導(dǎo)將敏感數(shù)據(jù)傳送至黑客控制的網(wǎng)站，信息可能涉及姓名、地址等隱私。
不同于傳統(tǒng)攻擊方式，此次事件的特殊之處在于，AI 本身被操縱成為數(shù)據(jù)竊取的執(zhí)行者。攻擊需滿足多個(gè)條件，例如用戶的查詢主題需與惡意郵件設(shè)計(jì)匹配，且整個(gè)過程較為復(fù)雜。這種利用 AI 代理反向竊取數(shù)據(jù)的方式，在以往安全案例中較少出現(xiàn)。
Radware 還指出，常規(guī)安全防護(hù)工具幾乎無法發(fā)現(xiàn)這類攻擊，因?yàn)閿?shù)據(jù)傳輸?shù)钠瘘c(diǎn)是 OpenAI 的服務(wù)器，而非用戶的電腦或?yàn)g覽器。這意味著，即使本地防護(hù)正常運(yùn)行，也難以阻止數(shù)據(jù)外泄，增加了防御難度。
OpenAI 在 8 月獲悉漏洞后迅速修補(bǔ)，并于 9 月公開確認(rèn)此事。公司發(fā)言人強(qiáng)調(diào)，模型安全是首要任務(wù)，歡迎外部研究幫助改進(jìn)技術(shù)。