转发 John Scott-Railton 新消息：恶意软件开发者在其间谍软件中添加了核武器和生物武器相关文本。 目的是什么？触发大型语言模型（LLM）的安全拒绝机制……这样他们的间谍软件就不会被人工智能安全扫描器分析。 这是我能想到的，为什么过度强调一级安全对齐是危险的最清晰的实际例子。 当封闭（和开放）模型附带激进的拒绝机制时，它们将充满攻击者会发现……并利用的二级盲点。 攻击者利用这些功能才刚刚开始，如果需要处理复杂网络安全问题的用户系统要求模型减少安全钝化，我不会感到惊讶。 深入来看：@SocketSecurity 的帖子也展示了在设计恶意软件分析管道时，意图为何重要，以避免提示操纵。 感谢与我分享此信息的同事 https://socket.dev/blog/mini-shai-hulud-miasma-and-hades-worms-target-bioinformatics-and-mcp-developers-via-malicious