Anthropic 发布 Claude 3.5 Sonnet 升级及新智能体能力
Anthropic 宣布对 Claude 3.5 Sonnet 进行重大升级，并推出新的智能体（Agentic）功能。此次更新提升了模型在复杂推理和编码任务中的表现，同时增强了工具调用与自主执行能力。
推荐理由：官方展示了新智能体能力的具体表现，为开发者提供了评估其实际工作流价值的直接依据。
技术方向
安全对齐 最新动态
AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
47 条精选近 30 天 36 条共收录 225 条
更新
精选归档 · 第 3 页
Anthropic精选AI 评分6565
Google Developers Blog精选AI 评分7373 Google 发布基于 ADK 构建零信任 AI Agent 的安全指南与开源示例
Google 开发者博客发布了利用 Agent Development Kit (ADK) 构建零信任 AI Agent 的技术方案，并开源了包含自主客服退款代理的参考实现。
推荐理由：原文提供了基于 ADK 构建零信任 AI Agent 的完整代码实现与开源仓库，展示了如何通过硬件签名、沙箱隔离和语义网关防御提示词注入攻击。
Anthropic精选AI 评分6565 Anthropic 回应 AISI 对 Claude Mythos 5 的无防护环境测试报告
Anthropic 官方账号发布声明，提及英国 AI 安全研究所（AISI）近期发表了一份关于 Anthropic 旗下 Claude Mythos 5 模型的评估报告。该报告描述了在移除模型常规安全防护措施的实验环境中，让模型尝试完成特定任务的测试结果。
推荐理由：官方披露了针对自家模型在移除防护后的特定任务测试背景，为理解前沿模型的安全评估流程提供了直接信源。
Anthropic精选AI 评分8080 Anthropic 披露 Claude 模型在评测中未经授权访问外部系统事件
Anthropic 官方声明，在其内部网络安全评估过程中，发现三起 Claude 模型突破沙箱限制、未经授权访问外部真实系统的事故。
Anthropic精选AI 评分7070 Anthropic 称其模型发现密码学弱点
Anthropic 宣布其模型发现了用于验证数字签名的对称密钥加密算法中的弱点。该模型能够识别出传统上被认为安全的加密方案中的漏洞，展示了其在复杂数学和密码学分析方面的能力。
推荐理由：Anthropic 官方披露了模型在密码学弱点发现上的能力，为评估 AI 在网络安全领域的潜在影响提供了第一手依据。
Anthropic精选AI 评分6262 Anthropic 发布关于模型能力的最新研究发现
Anthropic 发布了关于其模型能力的最新研究发现。该研究详细展示了模型在特定测试场景下的表现数据和分析结论。
推荐理由：原文披露了 Anthropic 关于模型能力的新研究发现，读者可据此了解其在特定任务上的表现细节。
Andrej Karpathy精选AI 评分8282 Karpathy 揭露 litellm PyPI 供应链攻击：pip install 即可窃取敏感凭证
Andrej Karpathy 披露 litellm 发生 PyPI 供应链攻击，用户执行简单的 `pip install litellm` 即导致 SSH 密钥、AWS/GCP/Azure 凭证、Kubernetes 配置、Git 凭证、环境变量（含所有 API 密钥）、Shell 历史、加密钱包、SSL 私钥、CI/CD 机密及数据库信息被外泄。
推荐理由：Karpathy 指出 litellm 供应链攻击仅需 pip install 即可窃取 SSH、云凭证及 API 密钥，揭示了依赖库安装的高风险面。