新加坡南洋理工大学（NTU）的计算机科学专家近日研发了新的方法，可以使用聊天机器人来入侵聊天机器人。 该科研团队训练了一个 AI 聊天机器人，可以绕过其它 AI 聊天的安全限制。团队研发了名为 Masterkey（LLM）的算法，逆向设计了 LLM 检测和防御恶意查询的方式，然后教会 LLM 自动学习并通过相关提示词，可以绕过其他 LLM 的安全性。 团队通过这种方式，可以创建一个黑客 LLM，它可以自动适应新条件，并在开发人员对其 LLM 进行更正后创建新的黑客请求。研究团队成功利用这种方式入侵 AI 模型之后，已经通知服务提供商相关问题。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
关注公众号，免费获取chatgpt账号
相关文章
暂无评论...
AI中国(aicn.me)致力于收集与AI相关的热门工具，包括但不限于ChatGPT、AI视频、AI办公、AI语音等领域，并为广大AI爱好者提供学习平台，降低获取学习资源的成本。同时，同步分享最新的行业前沿AI工具和网站，旨在帮助AI爱好者不断探索AI技术的发展。
