ChatGPT“深度研究”功能曝毛病，已被 OpenAI 修补

9 月 19 日消息，科技媒体 Android Headline 昨日（9 月 18 日）发布博文，报道称网络安全公司 Radware 发现 ChatGPT“深度研究”（deep research）功能存在毛病，黑客可通过特制邮件诱导其在处置惩罚 Gmail 查询时，将敏感信息发送至恶意网站。
IT之家注：ChatGPT 的“深度研究”可分析来自 Gmail、Google Drive 等应用的大量信息，Radware 公司指出黑客使用该毛病，可发送包罗潜伏指令的邮件。在用户哀求 ChatGPT 针对邮箱实行深度研究后，体系会被诱导将敏感数据传送至黑客控制的网站，信息大概涉及姓名、地点等隐私。

差别于传统攻击方式，此次变乱的特别之处在于，AI 自己被利用成为数据盗取的实行者。攻击需满意多个条件，比方用户的查询主题需与恶意邮件计划匹配，且整个过程较为复杂。这种使用 AI 署理反向盗取数据的方式，在以往安全案例中较少出现。

Radware 还指出，通例安全防护工具险些无法发现这类攻击，由于数据传输的出发点是 OpenAI 的服务器，而非用户的电脑或欣赏器。这意味着，纵然当地防护正常运行，也难以制止数据外泄，增长了防御难度。

OpenAI 在 8 月获悉毛病后敏捷修补，并于 9 月公开确认此事。公司发言人夸大，模子安满是主要使命，接待外部研究资助改进技能。
【泉源：IT之家】