📅 今日 AI 快讯
2026年9月18日
2026-09-18 AiDuo123 精选 4 条 AI 行业资讯速览：AI 监控 AI:失控智能体的解药还是新陷阱?；微软 AI 负责人警告 Anthropic Claude 拟人化设计存在失控风险；创业公司下一个队友可能是 AI Agent:Gusto、Insight Partners 与 Leland 探讨团队构建新范式 等。
共 4 条 · 自动聚合
世界模型公司为何讳莫如深:从AMI Labs到World Labs的商业化迷雾
在All In大会的世界模型圆桌讨论中,AMI Labs和World Labs等头部公司对产品方向三缄其口。尽管融资顺利、技术潜力巨大,但从机器人到自动驾驶的多条商业化路径仍处于"黑暗森林"状态——过早曝光可能引来OpenAI等巨头竞争,保持神秘成为当下最优策略。
安全研究团队用 Claude 攻破 OpenAI 获 6500 美元奖金
独立安全研究团队 Hacktron AI 在 OpenAI 漏洞赏金计划中,利用 Anthropic 的 Claude Opus 5 模型成功攻破 ChatGPT 母公司的防御系统,访问到多个员工账户及 GitHub 组织。这起事件凸显 AI 工具正大幅降低网络攻击门槛,也暴露出顶级 AI 公司在第三方软件供应链安全上的薄弱环节。
Google DeepMind 成立新研究所推动 AGI 治理讨论
Google DeepMind 宣布成立 DeepMind Institute,由联合创始人 Shane Legg、CEO Demis Hassabis 等领衔,旨在汇聚对通用人工智能(AGI)的多元观点。首批发布四篇论文涵盖模型透明度、评估框架、经济政策等议题,Hassabis 提议建立美国主导的前沿 AI 标准机构,要求模型发布前接受独立评估。
美国政府短暂使用阿里巴巴通义千问模型引发争议
美国联邦政府网站曾短暂部署阿里巴巴旗下的 Qwen (通义千问) AI 模型,随后在公众审查下移除。此事正值 FBI 指控阿里巴巴"恶意"抄袭 Anthropic 技术之际,引发了关于美国政府机构采用中国 AI 技术的政策一致性争议,并加剧了中美在 AI 安全领域的地缘政治紧张。