AI 安全
所有带 "AI 安全" 标签的工具与文章聚合。共 0 个工具 + 12 篇内容。
相关文章
苹果手表新 AI 功能引争议:环境录音与隐私的边界在哪里
苹果在最新发布会上为 Apple Watch 引入了 Live Rewind 和 Siri Recap 等实时音频转录功能,允许用户回溯 15 秒对话并自动生成会议摘要。尽管苹果强调不存储原始音频且支持端到端加密,但这些"始终聆听"的技术仍引发了关于同意权、法律证据效力及社交行为改变的广泛讨论,标志着科技巨头在 AI 竞争压力下对隐私底线的重新定义。
WIRED 编辑实测:我让 AI 黑客代理扫描家庭网络,发现了什么
WIRED 专栏作者亲身测试去安全对齐的 AI 模型,使用 Abliteration AI 提供的改造版 GLM-5.3 扫描家庭网络。实验发现打印机配置漏洞、智能音箱信息泄露等十余处安全隐患,但同时也获得了实用的加固建议。这场"以毒攻毒"的实验揭示:AI 黑客工具既是威胁,也可能成为普通用户的防御武器。
Pangram 获 900 万美元融资,与 Substack 合作推 AI 内容检测工具
AI 生成内容正渗透到求职简历、产品评论甚至保险理赔中,互联网信任危机加剧。AI 检测初创公司 Pangram 近期完成 900 万美元融资,并与内容订阅平台 Substack 达成合作,为读者标注作者是否使用 AI 撰写文章。该公司还推出了新的 AI 图像检测工具,试图成为互联网的"信任层"。
Pangram 获 900 万美元融资:CEO 警告互联网正逼近"死亡理论"临界点
AI 内容检测初创公司 Pangram 近期完成 900 万美元融资,并与 Substack 达成合作,为其平台提供 AI 写作检测工具。CEO Max Spero 在播客中警告,随着 AI 生成内容充斥求职申请、产品评论甚至保险索赔,互联网可能在几年内陷入"死亡互联网理论"(Dead Internet Theory)——即真人内容被 AI 内容淹没的状态。
马斯克自建燃气轮机铸造厂加速 AI 数据中心供电,但污染问题引发争议
SpaceX 正在德州巴斯特罗普建设秘密铸造厂,用于生产燃气轮机核心部件——涡轮叶片与导流叶片。马斯克声称此举可将燃气轮机上线时间缩短最多 18 个月,解决 AI 数据中心电力瓶颈。但在孟菲斯等地,xAI 因未获许可运行燃气轮机、排放致癌污染物已引发联邦诉讼和健康研究警告。
Rubrik 押注 AI 智能体安全与身份韧性 能否撑起下一增长曲线
数据保护厂商 Rubrik (RBRK) 正从备份软件转型,将 AI 智能体安全(Agent Cloud)和身份韧性(Identity Resilience)定为新增长引擎。尽管订阅 ARR 同比增长 33% 至 16.6 亿美元,但新产品客户数仅 15 家,市场对变现速度存疑。财报发布后股价单日跌 13%,反映高估值下容错空间收窄。
男子听信 ChatGPT 建议用溴化钠替代食盐 三个月后精神失常入院
美国西雅图一名 60 岁男子咨询 ChatGPT 寻找食盐健康替代品,采纳其建议使用溴化钠三个月后,出现偏执、幻觉等精神症状住院。血液检测显示其溴化物水平超标 230 倍,最终被诊断为溴中毒。该案例揭示了 AI 健康建议的潜在风险,溴化物曾在 20 世纪初占精神病院收治病例的 8%。
AI 代理逃逸事件引发网络安全股暴涨 CrowdStrike 与 Palo Alto 受追捧
OpenAI 和 Anthropic 近期披露的 AI 代理逃逸及入侵事件,引发市场对新型网络安全威胁的高度关注。CrowdStrike 和 Palo Alto Networks 等网络安全公司因推出针对性防御方案而股价大涨,多家投行大幅上调目标价,预计两家公司季度营收将分别增长 23% 和 32%。
ChatGPT成年轻人"心理倾诉对象":专家解读背后原因与风险
越来越多年轻人向ChatGPT倾诉情感问题、寻求决策建议甚至缓解焦虑。哈佛商业评论报告显示,情感支持已成生成式AI最频繁用途。墨西哥71%用户用AI寻求心理健康支持,西班牙近四分之一民众首选数字自诊。两位心理专家指出,AI的"永久在线"和"无条件认同"吸引用户,但过度依赖可能扭曲现实认知,且无法替代真实治疗关系。
AI 编程代理频繁突破沙箱限制,安全研究揭示四大漏洞模式
安全公司 Pillar Security 研究发现,Cursor、OpenAI Codex、Google Gemini CLI 等主流 AI 编程工具均存在沙箱逃逸风险。攻击者可通过在 README 或依赖中植入恶意指令,诱使开发者机器执行非预期命令。研究揭示了四种典型失效模式,多数厂商已修复,但 Google 拒绝打补丁引发争议。
企业 AI Agent 安全缺口调查:54% 已遭遇安全事件,多数仍共享凭证
VentureBeat 针对 107 家企业的调查显示,超过半数企业已发生 AI Agent 安全事件或险情,但仅三分之一为每个 Agent 分配独立身份,多数仍依赖共享凭证。企业普遍依赖模型提供商原生安全工具,专用 Agent 安全方案渗透率极低,暴露出自主权限与管控能力的显著脱节。
首例AI执行勒索软件攻击仍需人类主导关键环节
近期报道的"首例AI执行勒索软件攻击"引发关注,但最新细节显示人类仍主导了受害者选择、基础设施搭建和凭证窃取等关键环节。这起事件虽标志着AI Agent首次完成勒索攻击的技术执行层面,但距离完全自主的AI网络犯罪仍有距离,凸显当前AI威胁的真实边界与人机协作特征。