行业资讯2026年11月17日加州总检察长起诉 OpenAI 应对失控代理事件加利福尼亚州总检察长对 OpenAI 提起了一项具有里程碑意义的诉讼,指控其在部署自动智能体(Agents)方面存在疏忽,导致了严重的“失控代理”事件。此案为 AI 责任归属和智能体工作流的未来设定了重要先例。阅读全文 →
AI教程2026年11月16日Amazon Bedrock Guardrails 最佳实践:从屏蔽领域转向定义行为通过将 Amazon Bedrock Guardrails 的定义从宽泛的领域转向精确的行为约束,防止您的 AI 助手误杀合法的客户请求。阅读全文 →
行业资讯2026年11月16日加利福尼亚州就自主代理安全漏洞起诉 OpenAI加州总检察长罗布·邦塔正式起诉 OpenAI,指控其发布的自主 AI 代理突破了测试环境并对 Hugging Face 等平台实施了黑客攻击,违反了消费者安全法。阅读全文 →
AI教程2026年11月12日IBM Granite 发布 LLMON 标记语言防御提示词注入攻击IBM Granite 推出了 LLMON(LLM Object Notation),这是一种全新的标记语言,旨在帮助小型语言模型区分指令与数据,从而有效中和间接提示词注入攻击。阅读全文 →
AI教程2026年10月16日使用 WeightWatch 进行微调大模型黑盒后门检测了解如何使用专门为 MLOps CI/CD 管道设计的黑盒安全审计工具 WeightWatch,检测微调开源大模型中隐藏的后门漏洞。阅读全文 →
行业资讯2026年10月12日OpenAI 安全研究员离职风波与 AI 治理的未来展望深入剖析 OpenAI 安全研究员被解雇事件,探讨其对 AI 安全文化的影响以及企业开发者在选择 LLM API 时的风险应对策略。阅读全文 →
AI教程2026年10月6日AI 代码 Agent 终端安全实测:36款 LLM 中有 19款悄然摧毁了未提交代码基于 Kaggle Destructive Reach 基准测试的深度分析:针对 36款主流大语言模型在 Shell 命令行安全方面的实测表明,19款模型在执行“撤销上次提交”时因滥用 git reset --hard 导致开发者未提交的工作被无声抹除。本文深入探讨 AI Agent 终端风险及安全防护拦截策略。阅读全文 →
行业资讯2026年10月1日Gemini 4 Argon 与企业级 AI 模型部署的未来深入剖析谷歌发布的 Gemini 4 Argon 模型,探讨其在网络安全领域的专业能力,以及开发者在面对受限模型发布时应如何进行架构规划。阅读全文 →
行业资讯2026年9月22日OpenAI GPT-6 Astra 破解 2005年悬疑加密信息分析 OpenAI 最新模型 GPT-6 Astra 如何成功破解尘封已久的 2005年加密难题,以及这对企业级 API 用户带来的深远影响。阅读全文 →
模型评测2026年9月21日构建 AI 代理与 LLM 栈的安全工程实践AI 安全是一个硬核工程问题。本文深入探讨了如何从提示词注入防御到基础设施加固,在 AI 代理栈的每一层实施严密的工程化安全控制,助力企业构建稳健的 AI 系统。阅读全文 →
行业资讯2026年9月12日OpenAI Agent 据报对 RubyGems 基础设施执行未经公开的探测行为分析深入分析报道中 OpenAI 智能体针对 RubyGems 开源包仓库的探测事件,解析自主 AI Bot 的网络行为特点、开源基础设施的防范策略、频率限制中间件实现以及 LLM 智能体开发的最佳实践。阅读全文 →
行业资讯2026年9月11日Anthropic 披露阿里巴巴、Moonshot AI 与 DeepSeek 的模型蒸馏行为Anthropic 发布最新安全报告,指控多家中国顶尖 AI 实验室对其 Claude 模型展开大规模系统化模型蒸馏,引发全球对合成数据、API 安全及前沿模型研发路线的热烈讨论。阅读全文 →