MIT
安全的AI助手可能实现吗？
AI代理充满风险。即使局限于聊天窗口，大语言模型（LLM）也会出错或行为不当。一旦赋予它们浏览器、邮箱等外部工具，错误后果将急剧放大。这或许解释了为何科技巨头在推进AI代理时如此谨慎。本文探讨AI安全挑战、现有风险案例及潜在解决方案，分析未来可信AI助手的可能性。
大语言模型 (共8篇)
训练 Llama 3.1 8B：MLCommons 基准详解
MLCommons 最新发布 Llama 3.1 8B 模型训练基准报告，由 LMSYS Org 贡献。该报告详细记录了使用标准硬件集群训练该 8B 参数模型的全过程，包括数据准备、训练时长、能耗和性能指标。结果显示，在 4090 张 H100 GPU 上，仅需 2.3 天即可完成预训练，FLOPs 利用率高达 52%。模型在下游任务中表现出色，MMLU 分数达 68.4%，凸显高效训练框架的重要性。该基准为开源社区提供宝贵参考，推动 AI 训练标准化。（128 字）
MIT
AI中最被误解的图表
MIT Technology Review解析：每次OpenAI、Google或Anthropic发布前沿大语言模型，AI社区都屏息以待，直到METR给出评估结果。这个图表被视为AI进展的风向标，却饱受误解。它并非显示scaling定律失效，而是揭示了评估方法的局限与未来挑战。本文深入剖析其背后的真相，帮助读者厘清AI发展的复杂图景。（128字）
AIN
微软揭秘：无需触发器即可检测AI潜伏后门
微软研究员推出创新扫描方法，可在不知触发器或预期结果的情况下识别中毒AI模型。针对开放权重大语言模型的供应链漏洞，独特内存泄漏和注意力模式暴露'潜伏特工'威胁。这些后门模型在激活前保持休眠，潜在风险巨大。该技术为企业集成开源LLM提供安全保障，推动AI供应链安全新标准。（128字）
TC
Anthropic 发布 Opus 4.6：新增“代理团队”功能大升级
Anthropic 最新推出 Opus 4.6 模型版本，引入革命性‘代理团队’功能，旨在显著扩展其能力边界和市场吸引力。该更新允许多个 AI 代理协同协作，处理复杂多任务场景，支持企业级应用从自动化客服到科研模拟等多种用途。相比前代，Opus 4.6 在推理速度、多模态处理和安全性上均有优化，助力 Anthropic 在 AI 竞赛中抢占先机，吸引更多开发者和企业客户。
MIT
AI领域最被误解的图表
MIT Technology Review解析：每次OpenAI、Google或Anthropic发布前沿大语言模型，AI社区都屏息以待，直到METR公布结果。这个图表追踪模型性能随计算量变化，却常被误解为AI进步停滞的证据。本文揭开其真相，帮助读者理解AI缩放定律的复杂性，以及未来发展方向。通过补充行业背景和分析观点，澄清误区，让你洞悉科技前沿。
AIN
微软揭秘：无需触发器即可检测AI休眠代理后门
微软研究人员推出创新扫描方法，能识别中毒的开源大语言模型（LLM），无需知晓触发器或预期结果。组织在使用开源权重LLM时面临供应链漏洞，独特内存泄漏和内部注意力模式暴露了隐藏的‘休眠代理’威胁。这些后门模型在闲置时潜伏，一旦激活即可执行恶意指令。此技术为AI安全注入新活力，帮助防范供应链攻击。（128字）
MIT
《下载》：AI追踪难题与下一代核电革命
《MIT科技评论》的平日通讯《下载》带来科技前沿动态。本期聚焦AI领域最易误解的图表：每当OpenAI、Google或Anthropic发布前沿大语言模型，社区屏息以待METR的评估结果。该图表揭示模型性能与计算资源的关联，却常被误读。同时探讨下一代核能技术如何应对AI数据中心能耗激增，提供可持续能源解决方案。（128字）