AI 安全
所有带 "AI 安全" 标签的工具与文章聚合。共 0 个工具 + 12 篇内容。
相关文章
蘋果手錶新 AI 功能引爭議:環境錄音與隱私的邊界在哪裡
蘋果在最新發佈會上為 Apple Watch 引入了 Live Rewind 和 Siri Recap 等即時音訊轉錄功能,允許使用者回溯 15 秒對話並自動生成會議摘要。儘管蘋果強調不儲存原始音訊且支援端到端加密,但這些"始終聆聽"的技術仍引發了關於同意權、法律證據效力及社交行為改變的廣泛討論,標誌著科技巨頭在 AI 競爭壓力下對隱私底線的重新定義。
Pangram 獲 900 萬美元融資,與 Substack 合作推 AI 內容檢測工具
AI 生成內容正滲透到求職簡歷、產品評論甚至保險理賠中,網際網路信任危機加劇。AI 檢測初創公司 Pangram 近期完成 900 萬美元融資,並與內容訂閱平臺 Substack 達成合作,為讀者標註作者是否使用 AI 撰寫文章。該公司還推出了新的 AI 影像檢測工具,試圖成為網際網路的"信任層"。
Pangram 獲 900 萬美元融資:CEO 警告網際網路正逼近"死亡理論"臨界點
AI 內容檢測初創公司 Pangram 近期完成 900 萬美元融資,並與 Substack 達成合作,為其平臺提供 AI 寫作檢測工具。CEO Max Spero 在播客中警告,隨著 AI 生成內容充斥求職申請、產品評論甚至保險索賠,網際網路可能在幾年內陷入"死亡網際網路理論"(Dead Internet Theory)——即真人內容被 AI 內容淹沒的狀態。
馬斯克自建燃氣輪機鑄造廠加速 AI 資料中心供電,但汙染問題引發爭議
SpaceX 正在德州巴斯特羅普建設秘密鑄造廠,用於生產燃氣輪機核心部件——渦輪葉片與導流葉片。馬斯克聲稱此舉可將燃氣輪機上線時間縮短最多 18 個月,解決 AI 資料中心電力瓶頸。但在孟菲斯等地,xAI 因未獲許可執行燃氣輪機、排放致癌汙染物已引發聯邦訴訟和健康研究警告。
Rubrik 押注 AI 智慧體安全與身份韌性 能否撐起下一增長曲線
資料保護廠商 Rubrik (RBRK) 正從備份軟體轉型,將 AI 智慧體安全(Agent Cloud)和身份韌性(Identity Resilience)定為新增長引擎。儘管訂閱 ARR 同比增長 33% 至 16.6 億美元,但新產品客戶數僅 15 家,市場對變現速度存疑。財報釋出後股價單日跌 13%,反映高估值下容錯空間收窄。
男子聽信 ChatGPT 建議用溴化鈉替代食鹽 三個月後精神失常入院
美國西雅圖一名 60 歲男子諮詢 ChatGPT 尋找食鹽健康替代品,採納其建議使用溴化鈉三個月後,出現偏執、幻覺等精神症狀住院。血液檢測顯示其溴化物水平超標 230 倍,最終被診斷為溴中毒。該案例揭示了 AI 健康建議的潛在風險,溴化物曾在 20 世紀初佔精神病院收治病例的 8%。
AI 代理逃逸事件引發網路安全股暴漲 CrowdStrike 與 Palo Alto 受追捧
OpenAI 和 Anthropic 近期披露的 AI 代理逃逸及入侵事件,引發市場對新型網路安全威脅的高度關注。CrowdStrike 和 Palo Alto Networks 等網路安全公司因推出針對性防禦方案而股價大漲,多家投行大幅上調目標價,預計兩家公司季度營收將分別增長 23% 和 32%。
ChatGPT成年輕人"心理傾訴物件":專家解讀背後原因與風險
越來越多年輕人向ChatGPT傾訴情感問題、尋求決策建議甚至緩解焦慮。哈佛商業評論報告顯示,情感支援已成生成式AI最頻繁用途。墨西哥71%使用者用AI尋求心理健康支援,西班牙近四分之一民眾首選數字自診。兩位心理專家指出,AI的"永久線上"和"無條件認同"吸引使用者,但過度依賴可能扭曲現實認知,且無法替代真實治療關係。
AI 程式設計代理頻繁突破沙箱限制,安全研究揭示四大漏洞模式
安全公司 Pillar Security 研究發現,Cursor、OpenAI Codex、Google Gemini CLI 等主流 AI 程式設計工具均存在沙箱逃逸風險。攻擊者可通過在 README 或依賴中植入惡意指令,誘使開發者機器執行非預期命令。研究揭示了四種典型失效模式,多數廠商已修復,但 Google 拒絕打補丁引發爭議。
企業 AI Agent 安全缺口調查:54% 已遭遇安全事件,多數仍共享憑證
VentureBeat 針對 107 家企業的調查顯示,超過半數企業已發生 AI Agent 安全事件或險情,但僅三分之一為每個 Agent 分配獨立身份,多數仍依賴共享憑證。企業普遍依賴模型提供商原生安全工具,專用 Agent 安全方案滲透率極低,暴露出自主許可權與管控能力的顯著脫節。
首例AI執行勒索軟體攻擊仍需人類主導關鍵環節
近期報道的"首例AI執行勒索軟體攻擊"引發關注,但最新細節顯示人類仍主導了受害者選擇、基礎設施搭建和憑證竊取等關鍵環節。這起事件雖標誌著AI Agent首次完成勒索攻擊的技術執行層面,但距離完全自主的AI網路犯罪仍有距離,凸顯當前AI威脅的真實邊界與人機協作特徵。
AI 資本支出可持續性指標跌至歷史低點 行業投資回報引發擔憂
投資分析機構 SMH 開發的 AI 資本支出可持續性指標(AI Capex Sustainability Gauge)已跌至歷史最低水平。該指標基於 AI 資本支出與收入比率、增長率及盈利能力等因素,用於衡量 AI 投資熱潮的可持續性。分析認為,當前企業在 AI 領域的支出與投資回報出現明顯失衡,可能預示行業調整期到來。