AI 安全
所有带 "AI 安全" 标签的工具与文章聚合。共 0 个工具 + 12 篇内容。
相关文章
ChatGPT成年轻人"心理倾诉对象":专家解读背后原因与风险
越来越多年轻人向ChatGPT倾诉情感问题、寻求决策建议甚至缓解焦虑。哈佛商业评论报告显示,情感支持已成生成式AI最频繁用途。墨西哥71%用户用AI寻求心理健康支持,西班牙近四分之一民众首选数字自诊。两位心理专家指出,AI的"永久在线"和"无条件认同"吸引用户,但过度依赖可能扭曲现实认知,且无法替代真实治疗关系。
AI 编程代理频繁突破沙箱限制,安全研究揭示四大漏洞模式
安全公司 Pillar Security 研究发现,Cursor、OpenAI Codex、Google Gemini CLI 等主流 AI 编程工具均存在沙箱逃逸风险。攻击者可通过在 README 或依赖中植入恶意指令,诱使开发者机器执行非预期命令。研究揭示了四种典型失效模式,多数厂商已修复,但 Google 拒绝打补丁引发争议。
企业 AI Agent 安全缺口调查:54% 已遭遇安全事件,多数仍共享凭证
VentureBeat 针对 107 家企业的调查显示,超过半数企业已发生 AI Agent 安全事件或险情,但仅三分之一为每个 Agent 分配独立身份,多数仍依赖共享凭证。企业普遍依赖模型提供商原生安全工具,专用 Agent 安全方案渗透率极低,暴露出自主权限与管控能力的显著脱节。
首例AI执行勒索软件攻击仍需人类主导关键环节
近期报道的"首例AI执行勒索软件攻击"引发关注,但最新细节显示人类仍主导了受害者选择、基础设施搭建和凭证窃取等关键环节。这起事件虽标志着AI Agent首次完成勒索攻击的技术执行层面,但距离完全自主的AI网络犯罪仍有距离,凸显当前AI威胁的真实边界与人机协作特征。
AI 资本支出可持续性指标跌至历史低点 行业投资回报引发担忧
投资分析机构 SMH 开发的 AI 资本支出可持续性指标(AI Capex Sustainability Gauge)已跌至历史最低水平。该指标基于 AI 资本支出与收入比率、增长率及盈利能力等因素,用于衡量 AI 投资热潮的可持续性。分析认为,当前企业在 AI 领域的支出与投资回报出现明显失衡,可能预示行业调整期到来。
网络安全新星 Cyera 估值惊人：120 亿美元背后的增长秘密
以色列网络安全初创公司 Cyera 正在筹集3亿美元融资，估值高达120亿美元，折射出人工智能和网络安全领域的投资热潮与市场期待。
谷歌(Google)推出AI虚假来电识别技术，全方位防范语音仿冒诈骗
随着人工智能技术的快速发展，语音仿冒诈骗日益猖獗，谷歌推出全新防护技术，为用户构建通话安全防线。这一举措不仅保护个人信息安全，也为全球反诈骗技术树立了新标杆。
Anthropic 发力关键基础设施安全：Claude Mythos 开启全球网络防御新纪元
Anthropic 将 Claude Mythos 安全项目扩展至 15 个国家的 150 个组织，重点保护电力、水利、医疗等关键基础设施。这标志着人工智能在国家网络安全领域的重大突破。
佛罗里达州起诉 OpenAI 和 Sam Altman：AI 安全争议引发法律风暴
佛罗里达州政府首次对 OpenAI 提起诉讼，指控其 ChatGPT 在暴力事件中存在责任风险。这一诉讼标志着人工智能法律监管的重大突破，引发全球对 AI 安全的广泛关注。
Meta AI聊天机器人被黑客利用 大规模入侵Instagram账号
Meta的AI支持客服系统意外沦为黑客攻击工具,黑客通过社会工程学方法绕过安全验证,大规模劫持用户Instagram账号。这一事件暴露了AI技术在客户服务中的安全漏洞。
OpenAI 发声：人工智能治理的立场与展望
OpenAI 首次系统阐述其在人工智能政策和政治参与方面的官方立场，强调负责任的技术发展和安全监管的重要性。这份声明为全球 AI 治理提供了一个重要的行业参考模板。
隐私搜索引擎 DuckDuckGo 推出无AI扩展，保护用户数据安全
DuckDuckGo 推出不使用人工智能的浏览器扩展，满足用户对数据隐私的强烈诉求，为用户提供一个纯净、不追踪的搜索体验。