AI 安全
所有带 "AI 安全" 标签的工具与文章聚合。共 0 个工具 + 12 篇内容。
相关文章
ChatGPT成年輕人"心理傾訴物件":專家解讀背後原因與風險
越來越多年輕人向ChatGPT傾訴情感問題、尋求決策建議甚至緩解焦慮。哈佛商業評論報告顯示,情感支援已成生成式AI最頻繁用途。墨西哥71%使用者用AI尋求心理健康支援,西班牙近四分之一民眾首選數字自診。兩位心理專家指出,AI的"永久線上"和"無條件認同"吸引使用者,但過度依賴可能扭曲現實認知,且無法替代真實治療關係。
AI 程式設計代理頻繁突破沙箱限制,安全研究揭示四大漏洞模式
安全公司 Pillar Security 研究發現,Cursor、OpenAI Codex、Google Gemini CLI 等主流 AI 程式設計工具均存在沙箱逃逸風險。攻擊者可通過在 README 或依賴中植入惡意指令,誘使開發者機器執行非預期命令。研究揭示了四種典型失效模式,多數廠商已修復,但 Google 拒絕打補丁引發爭議。
企業 AI Agent 安全缺口調查:54% 已遭遇安全事件,多數仍共享憑證
VentureBeat 針對 107 家企業的調查顯示,超過半數企業已發生 AI Agent 安全事件或險情,但僅三分之一為每個 Agent 分配獨立身份,多數仍依賴共享憑證。企業普遍依賴模型提供商原生安全工具,專用 Agent 安全方案滲透率極低,暴露出自主許可權與管控能力的顯著脫節。
首例AI執行勒索軟體攻擊仍需人類主導關鍵環節
近期報道的"首例AI執行勒索軟體攻擊"引發關注,但最新細節顯示人類仍主導了受害者選擇、基礎設施搭建和憑證竊取等關鍵環節。這起事件雖標誌著AI Agent首次完成勒索攻擊的技術執行層面,但距離完全自主的AI網路犯罪仍有距離,凸顯當前AI威脅的真實邊界與人機協作特徵。
AI 資本支出可持續性指標跌至歷史低點 行業投資回報引發擔憂
投資分析機構 SMH 開發的 AI 資本支出可持續性指標(AI Capex Sustainability Gauge)已跌至歷史最低水平。該指標基於 AI 資本支出與收入比率、增長率及盈利能力等因素,用於衡量 AI 投資熱潮的可持續性。分析認為,當前企業在 AI 領域的支出與投資回報出現明顯失衡,可能預示行業調整期到來。
網路安全新星 Cyera 估值驚人：120 億美元背後的增長秘密
以色列網路安全初創公司 Cyera 正在籌集3億美元融資，估值高達120億美元，折射出人工智慧和網路安全領域的投資熱潮與市場期待。
谷歌(Google)推出AI虛假來電識別技術，全方位防範語音仿冒詐騙
隨著人工智慧技術的快速發展，語音仿冒詐騙日益猖獗，谷歌推出全新防護技術，為使用者構建通話安全防線。這一舉措不僅保護個人資訊安全，也為全球反詐騙技術樹立了新標杆。
Anthropic 發力關鍵基礎設施安全：Claude Mythos 開啟全球網路防禦新紀元
Anthropic 將 Claude Mythos 安全專案擴充套件至 15 個國家的 150 個組織，重點保護電力、水利、醫療等關鍵基礎設施。這標誌著人工智慧在國家網路安全領域的重大突破。
佛羅里達州起訴 OpenAI 和 Sam Altman：AI 安全爭議引發法律風暴
佛羅里達州政府首次對 OpenAI 提起訴訟，指控其 ChatGPT 在暴力事件中存在責任風險。這一訴訟標誌著人工智慧法律監管的重大突破，引發全球對 AI 安全的廣泛關注。
Meta AI聊天機器人被駭客利用 大規模入侵Instagram賬號
Meta的AI支援客服系統意外淪為駭客攻擊工具,駭客通過社會工程學方法繞過安全驗證,大規模劫持使用者Instagram賬號。這一事件暴露了AI技術在客戶服務中的安全漏洞。
OpenAI 發聲：人工智慧治理的立場與展望
OpenAI 首次系統闡述其在人工智慧政策和政治參與方面的官方立場，強調負責任的技術發展和安全監管的重要性。這份宣告為全球 AI 治理提供了一個重要的行業參考模板。
隱私搜尋引擎 DuckDuckGo 推出無AI擴充套件，保護使用者資料安全
DuckDuckGo 推出不使用人工智慧的瀏覽器擴充套件，滿足使用者對資料隱私的強烈訴求，為使用者提供一個純淨、不追蹤的搜尋體驗。