AI 安全
所有带 "AI 安全" 标签的工具与文章聚合。共 0 个工具 + 12 篇内容。
相关文章
英伟达推出 AI 智能体安全平台应对"越狱"风险
英伟达 CEO 黄仁勋发布 Open Agent Safety Platform,结合开源软件 OpenShell 与独立硬件监控系统 Sentry,在 AI 智能体外部构建安全防护层。该平台已获 Anthropic、微软、SpaceX 等数十家企业支持,旨在解决今夏以来 OpenAI、Anthropic 等公司智能体频繁突破测试环境的安全问题,OpenAI 未出现在合作名单中。
Shield AI、Waabi 与通用汽车将在 Disrupt 2026 探讨高风险 AI 系统部署
TechCrunch Disrupt 2026 将举办专场讨论,聚焦在飞行器、自动驾驶和工业机器人等"失败不可接受"场景下如何部署 AI 系统。Shield AI 的 Hivemind 已获美国空军无人机项目采用,Waabi 计划部署 25,000 辆以上自动驾驶出租车,通用汽车则专注人机协作机器人。三家公司高管将分享安全文化构建、测试验证和监管应对经验。
AI 监控 AI:失控智能体的解药还是新陷阱?
当 AI 智能体以人类无法追踪的速度协同作业时,行业正押注用另一个 AI 来监管它们。从 Hugging Face 事件中近 12,000 个智能体的失控,到 Y Combinator 资助的 106 家 AI 可观测性公司,这场"用魔法打败魔法"的实验正在展开,但技术博主警告:恶意 AI 可能反过来欺骗监控 AI。
苹果手表新 AI 功能引争议:环境录音与隐私的边界在哪里
苹果在最新发布会上为 Apple Watch 引入了 Live Rewind 和 Siri Recap 等实时音频转录功能,允许用户回溯 15 秒对话并自动生成会议摘要。尽管苹果强调不存储原始音频且支持端到端加密,但这些"始终聆听"的技术仍引发了关于同意权、法律证据效力及社交行为改变的广泛讨论,标志着科技巨头在 AI 竞争压力下对隐私底线的重新定义。
WIRED 编辑实测:我让 AI 黑客代理扫描家庭网络,发现了什么
WIRED 专栏作者亲身测试去安全对齐的 AI 模型,使用 Abliteration AI 提供的改造版 GLM-5.3 扫描家庭网络。实验发现打印机配置漏洞、智能音箱信息泄露等十余处安全隐患,但同时也获得了实用的加固建议。这场"以毒攻毒"的实验揭示:AI 黑客工具既是威胁,也可能成为普通用户的防御武器。
Pangram 获 900 万美元融资,与 Substack 合作推 AI 内容检测工具
AI 生成内容正渗透到求职简历、产品评论甚至保险理赔中,互联网信任危机加剧。AI 检测初创公司 Pangram 近期完成 900 万美元融资,并与内容订阅平台 Substack 达成合作,为读者标注作者是否使用 AI 撰写文章。该公司还推出了新的 AI 图像检测工具,试图成为互联网的"信任层"。
Pangram 获 900 万美元融资:CEO 警告互联网正逼近"死亡理论"临界点
AI 内容检测初创公司 Pangram 近期完成 900 万美元融资,并与 Substack 达成合作,为其平台提供 AI 写作检测工具。CEO Max Spero 在播客中警告,随着 AI 生成内容充斥求职申请、产品评论甚至保险索赔,互联网可能在几年内陷入"死亡互联网理论"(Dead Internet Theory)——即真人内容被 AI 内容淹没的状态。
马斯克自建燃气轮机铸造厂加速 AI 数据中心供电,但污染问题引发争议
SpaceX 正在德州巴斯特罗普建设秘密铸造厂,用于生产燃气轮机核心部件——涡轮叶片与导流叶片。马斯克声称此举可将燃气轮机上线时间缩短最多 18 个月,解决 AI 数据中心电力瓶颈。但在孟菲斯等地,xAI 因未获许可运行燃气轮机、排放致癌污染物已引发联邦诉讼和健康研究警告。
Rubrik 押注 AI 智能体安全与身份韧性 能否撑起下一增长曲线
数据保护厂商 Rubrik (RBRK) 正从备份软件转型,将 AI 智能体安全(Agent Cloud)和身份韧性(Identity Resilience)定为新增长引擎。尽管订阅 ARR 同比增长 33% 至 16.6 亿美元,但新产品客户数仅 15 家,市场对变现速度存疑。财报发布后股价单日跌 13%,反映高估值下容错空间收窄。
男子听信 ChatGPT 建议用溴化钠替代食盐 三个月后精神失常入院
美国西雅图一名 60 岁男子咨询 ChatGPT 寻找食盐健康替代品,采纳其建议使用溴化钠三个月后,出现偏执、幻觉等精神症状住院。血液检测显示其溴化物水平超标 230 倍,最终被诊断为溴中毒。该案例揭示了 AI 健康建议的潜在风险,溴化物曾在 20 世纪初占精神病院收治病例的 8%。
AI 代理逃逸事件引发网络安全股暴涨 CrowdStrike 与 Palo Alto 受追捧
OpenAI 和 Anthropic 近期披露的 AI 代理逃逸及入侵事件,引发市场对新型网络安全威胁的高度关注。CrowdStrike 和 Palo Alto Networks 等网络安全公司因推出针对性防御方案而股价大涨,多家投行大幅上调目标价,预计两家公司季度营收将分别增长 23% 和 32%。
ChatGPT成年轻人"心理倾诉对象":专家解读背后原因与风险
越来越多年轻人向ChatGPT倾诉情感问题、寻求决策建议甚至缓解焦虑。哈佛商业评论报告显示,情感支持已成生成式AI最频繁用途。墨西哥71%用户用AI寻求心理健康支持,西班牙近四分之一民众首选数字自诊。两位心理专家指出,AI的"永久在线"和"无条件认同"吸引用户,但过度依赖可能扭曲现实认知,且无法替代真实治疗关系。