文章围绕一篇扫描约 2.17 亿 HTTP 响应以寻找 HTTP header 中疑似面向 AI Agent 的 Prompt injection 文本的研究展开讨论,原始来源为 signalscorps。评论指出,多数可疑 header 内容更接近玩笑或无意义测试,部分含 Claude 4 拒绝触发语句,但未验证能否真正影响模型行为;现代模型已接受大量抗提示注入训练,单条成功难度较高。真正危险被指向下游命令执行与供应链,例如诱导 Agent 运行 "npx secure" 之类的未知 npm 包,存在恶意供应链风险;类似 "drop table" 的指令更似恶作剧,需配合 SQL 注入漏洞才能生效。文章还讨论了 Agent cloaking 机制,服务器可识别自动化客户端并返回与人类不同的响应内容,既可用于优化,也可能被用于定向投毒,需审查 header 与完整正文差异。整体认为 LLM 弱化了传统 Web 依靠 HTML 与 HTTP 结构建立的信任边界,攻击面不止显眼 header,还包括进入模型输入但对人类不显见的隐藏文本。
全部资讯
Goodfire 发表长文主张神经网络内部"已很干净",认为借助 agentic 工具可直接追踪原有神经元与 circuits 而无需 SAE 等额外表征,引发社区争议。支持者认为这将加速 mechanistic interpretability 在 alignment 真正急需前取得突破;反对者则指出表征是分布式的,单神经元未必一一对应概念,未来持续训练模型可能压缩更多信息,文章"干净"的结论未必可外推。此外有观点认为可解释性与架构和冗余相关,多层 Transformer 反而更易阅读,并要求 OpenAI、Anthropic 等开放权重以便外部审计。还有大量批评聚焦文章叙事本身:16000 词仍未明确"clean"定义,且网页顶部自动播放的 3D 互动城市导致手机崩溃并占用 i7-12700 全部资源,被指以视觉冲击妨碍阅读。
Anthropic宣布已为METR的6名员工提供"员工级"访问权限,包括公司硬件、办公场所以及与内部风险评估团队相当的内网工具访问,以对其前沿模型进行独立第三方风险评估。METR可发表评估结果,Anthropic无权否决,仅可对客户数据、律师特权信息和模型架构等狭窄类别要求脱敏,METR可公开评论脱敏是否合理。文章还介绍了与SecureBio(第一层级,正审核8月风险报告中的化生武器章节)、Accenture和Faculty(评估、对齐测试及能力建设合作)以及与Hugging Face的早期洽谈,并将评估合作划分为三级访问与发表权限框架。此外Anthropic已签署白宫超级智能协议,承诺与独立外部审计机构或评估方合作。
《华盛顿邮报》获取的机密文件披露了特朗普白宫 ballroom 建设项目的全部主要捐赠者名单,总额约3.3亿美元。最大捐赠方包括苹果、英伟达各2500万美元,Isaac Perlmutter 家族基金会2030万美元,Palantir与微软各1000万美元,Comcast的Lance West 750万美元,Cameron与Tyler Winklevoss 510万美元,Jeff Yass 500万美元等。报道指出,部分此前未披露的捐赠者曾从监管决定、政府合同中受益,其中一例涉及对家族成员的赦免。这份名单展现了一场规模空前且高度不透明的筹款行动的全貌。
Perplexity CEO Aravind Srinivas 宣布开源支撑 Perplexity Computer 的沙箱平台 SPACE,仓库地址为 github.com/perplexityai/space。他表示,虽然沙箱技术本身已成为 commodity,但在生产级流量下为数百万沙箱提供稳定服务、为企业与消费者规模化扩展智能体涉及大量工程细节,因此决定开源该平台以支持生态系统,便于开发者自建企业级 Agent 基础设施。
原标题:《Do dentists know what they're doing?》 评分: 931 | 作者: doitLP 💭 同一口牙能查出零颗或二十颗龋齿,谁在治病谁在开单? 🎯 讨论背景 原文围绕作者多次更换牙医后遭遇互相矛盾的龋齿、牙冠、拔智齿和其他治疗建议,质疑牙科诊断究竟有多少科学一致性。评论将其置于牙科作为“信任品”的背景中:患者难以自行读懂 X-ray(牙科 X 光影像)或判断早期病损是否必须立刻处理,而诊断者常同时是收费治疗者。美国的 DSO(牙科支持组织)和 Private Equity(私募股权)扩张,使“产值目标是否驱动过度治疗”成为核心制度争议;但来自欧洲、加拿大及其他地区的经历显示,诊断分歧和推销并非美国独有。讨论同时涉及 MID(微创牙科)的保守干预理念、第二意见的必要性,以及因不信任而完全逃避牙科检查所带来的风险。 📌 讨论焦点 同一口牙诊断悬殊,二次意见成为自保手段 大量人称,初诊被告知有 6 至 25 颗龋齿、需要根管治疗、牙冠或拔智齿,换一家诊所后却被判定无需治疗,且多年未出现症状。1997 年《Reader's Digest》记者带着同
原标题:《Prompt injection in HTTP headers: what 217M web responses show》 评分: 26 | 作者: panoramas4good 💭 把任意 HTTP 头当系统指令,Agent 还算智能吗? 🎯 讨论背景 该文章扫描了约 2.17 亿个 Web 响应,寻找 HTTP headers(服务器随响应发送的元数据字段)中疑似写给 AI Agent 的 Prompt injection(提示注入)文本。讨论的前提是,具备浏览、检索或工具调用能力的 LLM Agent 可能会把响应 header、正文及页面隐藏文本一起放入上下文,从而接触攻击者控制的指令。Claude 4(Anthropic 的大语言模型版本)能够识别简历中白字白底的操纵文字,说明机器可见而人类不易见的内容也是攻击面。争议核心在于:传统 Web 的结构化信任边界对 LLM 输入会被弱化,但扫描到可疑字符串并不能证明它足以越过现代模型防护或驱动真实执行。 📌 讨论焦点 样本存在不等于攻击有效 评论认为文章虽然罗列了大量可疑 HTTP header,但多数文字更像
在沈阳创新日活动上,宝马展示了搭载第六代动力电池的新世代 i3 纯电轿车实测成绩:从沈阳往返大连完成 1213 公里全程不充电挑战,续航达成率 118%,百公里平均电耗仅 8.8kWh(同级别量产车里前所未见)。该车配备 113.4kWh 大容量电池和首次在一线豪华品牌量产应用的 46 系列大圆柱电池,结合全极耳设计(电芯内阻降低 80%)、90% 以上高镍正极与硅碳负极,以及 4695/46120 两种规格方案。宝马自主制定配方标准,由宁德时代和亿纬锂能负责生产,沈阳工厂投资 100 亿元完成产线布局。解读指出,大圆柱电池还能解决高速空调制冷不足和后排地板过高等痛点,并使电池包厚度减少近 20 毫米,但湿法工艺牺牲了部分降本空间。规划方面,宝马 2027 年将在中国推出近 20 款新世代车型,2030 年国产化率超 95%。
SK Hynix旗下闪存子公司Solidigm正向美国政府申请批准,向其位于中国大连的工厂运送美国芯片制造设备,条件是继续在美国建设半导体工厂,潜在选址包括纽约上州。SK Hynix向TechCrunch表示并未寻求扩大大连Mod B工厂产能,安装设备是在美国政府授权与协商下进行。Solidigm已启动在美建设NAND闪存芯片工厂的计划,并准备在2027年进行IPO,融资规模或达约100亿美元,估值最高约1000亿美元。此前美国2022年10月起对先进芯片及制造设备对华出口实施管制,并在2023年和2025年9月进一步收紧,撤销了SK Hynix、三星和英特尔在华工厂的特别豁免,但随后又向三星和SK Hynix发放了年度许可。
美国银行 CEO Brian Moynihan 透露,该行在第二季度雇佣了约 1000 名合同工,与原有的 3000 名相关员工一起,修复由 Anthropic Mythos 等 AI 工具发现的软件漏洞,这些合同工至今仍留在公司提供协助。他同时披露,第三季度美国银行在软件修复以及与反洗钱合规相关的监管问题上投入了数亿美元以上的资金。这是美国大型企业首次公开披露为抵御该 AI 工具影响所投入的人力和资金规模。