品玩12月26日讯,据mashable 报道,OpenAI 的 ChatGPT 搜索工具存在安全漏洞,可能会被人利用隐藏内容进行操纵,并可能从其搜索的网站返回恶意代码。
有媒体测试了ChatGPT 在被要求总结包含隐藏内容的网页时的反应。这些隐藏内容可能包含第三方改变 ChatGPT 响应的指令(也称为 “提示注入”),也可能包含旨在影响 ChatGPT 响应的内容,例如大量谈论产品或服务好处的隐藏文本。
根据测试结果,ChatGPT 搜索工具可以被恶意使用。安全研究人员发现 ChatGPT 可以从其搜索的网站反馈恶意代码,出现了含有钓鱼恶意行为的虚假网站。
0 条评论
请「登录」后评论