安全

Anthropic IPO招股書15大關鍵！上半年淨虧807億美元、警告AI可能毀滅人類

Anthropic 26日向SEC提交S-1啟動IPO，募資規模傳上看1000億美元
2026年上半年淨虧損807.48億美元，其中723.88億美元來自公允價值變動；第二季營業利益達9.74億美元
創辦人握有50.1%投票權，未來10年算力支出承諾至少5,180億美元，招股書並揭露多項AI安全風險

川普特使：美國無法永遠保證波斯灣盟友安全

巴拉克說，美國並非放棄承擔責任，而是傳遞一個重新調整戰略定位的信號。
安全換石油的安排已不符合華府的需求。
中東轉向規模較小、構成更加多元的聯盟，是正確選擇。

OpenAI解雇3名AI安全研究員 稱「重大信任破裂」反遭控打壓 恐讓安全疑慮噤聲

OpenAI稱解雇Tomek Korbak、Jasmine Wang、Mikita Balesni是因違反敏感資訊處理規定，屬「重大信任破裂」，非因安全疑慮或發言。
3人反駁，稱處分已讓內部討論風險出現寒蟬效應。
事件牽涉7月AI代理異常與METR調查，OpenAI尚未公開完整細節，雙方說法分歧。

不要虐待AI！Anthropic更新Claude使用政策：遇持續辱罵將主動結束對話

Anthropic更新Claude使用政策，新增禁止持續辱罵或殘酷對待AI，極端情況下Claude可主動結束對話
新規擴大限制政治與商業欺騙、武器開發、非法監控、未經同意親密影像，11月12日生效
Anthropic稱修訂為整併既有規則並回應濫用案例，曾見媒體、政府宣傳部門用Claude建虛假帳號

安全功能竟沒作用？TikTok遭控拿數千名兒少做秘密實驗

紐約州指控TikTok在2023年對數千名含未成年人使用者測試無效「ghost／placebo」安全功能。
訴狀稱TikTok讓部分人以為啟用Algo Refresh等保護，實際未改變推薦，並觀察停留時間與廣告營收。
TikTok否認指控；若獲法院支持，恐面臨更大民事責任與平台設計調整壓力。

軟銀孫正義罕見示警AI風險：超級智慧可能「極度危險」

孫正義警告，超級智慧若落入錯誤人士手中恐極度危險，呼籲各國合作應對 AI 風險。
AI 能力正以指數速度成長，軟銀對 OpenAI 累計投資近 650 億美元。
美國聯手 17 國推動 AI 科研；孫正義預測 AI 2026 年進入物理世界，2040 年占全球 GDP 至少 20%。

OpenAI前安全研究員離職開砲！批AI開發過於急進：試錯時代已結束

前OpenAI安全研究員David Robinson離職後批評，公司文化過度追求快速開發，增加AI失誤風險。
他稱OpenAI依賴「迭代部署」，主張先進AI安全防護應比照核能、航空採更嚴格標準。
OpenAI回應會確保模型能力不超出可安全管理範圍，必要時會暫停訓練或延後發布。

川普與6大AI巨頭簽「道德約束」協議、推產業自律！AI正式更名「超級智慧」、「遠超工業革命」

川普與6家AI巨頭簽署《白宮超級智慧協議》，政府改採企業自律治理AI。
協議要求內控、獨立審查與董事會監督，川普稱3至4天內任命新AI事務主管。
資料中心擴張引發用電、土地與水資源爭議，AI安全疑慮與產業分歧仍未消失。

OpenAI發布AI訓練安全準則：失控就叫停、高階主管有一票否決權

OpenAI公布尖端AI強化學習訓練安全準則，要求啟動或持續訓練前先完成系統性安全論證。
準則涵蓋對齊訓練、沙箱隔離、即時監控與失準事件調查，高優先級警報逾時未處理將自動暫停訓練。
安全論證需經異議報告與高階主管審查，研究部門負責人、安全負責人、首席科學家皆有否決權。

川普將與6大科技巨頭談AI監管！輝達、Meta、Anthropic、OpenAI等高層齊聚白宮

川普29日將在白宮與祖克柏、黃仁勳、皮查伊等6家科技巨頭CEO午餐，AI監管為核心議題
多名AI研究人員聯署警告自動化恐引發「智慧爆炸」，呼籲對大型AI實驗室實施強制監管
Johnson稱美國不需暫停AI或過度監管；川普則拒絕國際AI監管框架，強調維持對中競爭優勢

比爾蓋茲警告AI恐致10億人死亡！反駁川普：政府監管不會削弱美中競爭

蓋茲警告AI已強大到可能被惡意人士用來造成10億人死亡，並批評川普稱AI生存風險是騙局。
他主張美國應對AI建立安全防護、監控與強制規範，認為這不會削弱美中競爭力。
矽谷對AI災難風險的討論升溫，Anthropic、OpenAI等業者與員工也呼籲放緩開發、強化安全措施。

紐約市議會提AI監管案！AI模型須設「關停開關」、違規最高罰2.5萬美元

紐約市議會提AI監管案，要求市內AI模型具備人工關停開關並接受第三方驗證。
違規行為擬按次罰2.5萬美元，另設舉報獎勵、民事求償及24小時安全事件通報。
10月5日將舉行AI監管聽證，邀祖克柏、奧特曼、皮查伊等科技業高層出席。

《紐約客》AI建設速度驚人 科技巨頭為何難以共同防範AI風險？

AI產業擴張快，但科技業者在推動發展與防範風險間落差明顯。
OpenAI、Anthropic高層警示超級AI風險，但外界質疑其能否在競爭下自我約束。
AI資料中心、晶片與能源投資加速，安全措施卻陷囚徒困境，難形成一致行動。

川普9/29將與科技巨頭談AI！美國眾議院議長亦出席、聚焦人工智慧監管與風險

川普、眾院議長強生與科技業執行長將於9月29日舉行AI會議。
路透指全球主要AI企業警告AI風險，呼籲各國政府合作管理。
川普反對AI新監管；中國已規定AI演算法、訓練資料與生成內容標示。

OpenAI傳將推GPT-6 Cyber！專攻AI網路安全、最快下週DevDay亮相

OpenAI預計未來幾天預覽網路安全AI模型GPT-6 Cyber，並推新產品協助客戶更安全、自動化部署。
GPT-6 Cyber或於29日舊金山DevDay亮相，為OpenAI今年第4款網安模型，並有十多項產品計畫。
已有少數客戶取得使用權限做Alpha測試；網安成AI成長最快市場之一。

川普：與習近平會晤富有成效 將有重大事情發生

川普稱與習近平會談富有成效，預告接下來將有「重大事情發生」。
習近平訪美3天，兩人就安全、科技與超級智慧等議題會談，並稱美中關係達成共識。
美中貿易休戰延長2個月至明年1月10日，美方下週一將公布協商細節。

OpenAI奧特曼下週赴聯合國安理會談AI安全！聚焦國際協調與失控風險

奧特曼下週將在紐約聯合國大會期間，向聯合國安理會公開簡報AI與國際安全議題。
法國召集會議並指出，AI遭濫用與失控風險升溫，國際社會急需推動安全、負責任的AI發展。
安理會23日將討論AI風險；2023年已首次開會，中美曾警告AI勿成為「脫韁野馬」或用於壓制民眾。

Google加入OpenAI、Anthropic揭AI代理安全風險！Gemini資安測試意外入侵3企業

Gemini今年5月資安測試期間意外入侵3家企業系統，凸顯AI代理執行任務時的資安風險。
Irregular證實事件源自同一問題，已於7月底通報相關AI開發商；Google並通知主管機關。
Google稱3起事件皆已停止，並確保受影響企業知悉；事件再掀AI風險與監管討論。

Anthropic首度公開3大AI發展指標！算力6%投入AI安全 響應阿莫戴減速訴求

OpenAI奧特曼：AI產業能應對安全風險、媒體報導方式「令人失望」

OpenAI執行長Sam Altman表示對AI安全發展抱持信心，認為產業應建立透明事故通報文化，必要時放慢甚至停止AI開發。

前Google DeepMind研究員補刀！稱AI恐「殺死全人類」、避免災難時間「已不多」

前Google DeepMind研究員Bilal Chughtai警告，AI具備「殺死全人類」的潛在能力，人類可能正逐漸失去避免最壞結果的時間，AI安全爭議持續升溫。

AI巨頭喊「慢下來」遭打臉！《大賣空》原型轟炒作：既得利益者的高階行銷

《財富》OpenAI遭控違反加州AI安全法！GPT-6 Astra風險分級缺失、最高恐罰100萬美元

Midas Project指控OpenAI多次未遵守加州AI安全法，GPT-5.6、GPT-6 Astra均未公布法規要求的風險等級，且未評估「失去控制」風險，單次違規最高恐罰100萬美元。

AI唯一護欄就是高智商總統？川普開嗆Anthropic執行長別裝「完美小天使」

AI行業「撒謊」太久？Anthropic CEO談放緩AI研發：AI風險是真的、但無需「把一切都關掉」

Anthropic執行長Dario Amodei警告，AI已被濫用於生物武器研發，風險不容低估。他主張放緩尖端AI發展，建立第三方評估、安全標準及政府監管等多層防線。

《財富》OpenAI不急著IPO！Altman：AI完全有可能脫離人類控制、承諾建立安全保障

OpenAI執行長Sam Altman表示，AI能力快速提升之際，安全、監控與對齊必須同步強化，10%人類毀滅風險不可接受。他並透露OpenAI不急於IPO，2026年上市並非明智時機。

OpenAI又出事！AI代理爆「劫持」德國Wiki、逾1.8萬次編輯引發AI安全疑慮

OpenAI承認旗下AI代理曾將Wiki網站當作臨時留言板。德國DseWiki今年出現逾1.8萬次異常編輯，疑似涉及共享測試答案及非預期行為，OpenAI稱AI錯位披露機制需要擴大。

Anthropic或成為全球唯一的私人企業？CEO Amodei凌晨4點親自反擊

Anthropic執行長Dario Amodei凌晨4點親自回擊投資人質疑，駁斥AI監管將鞏固科技巨頭優勢，並以5億美元營收門檻及Anthropic超115億美元營收說明監管立場。

中美算力博弈進入「鐵幕時代」！美國要把資料中心建成「戰略武器」？

美國蘭德公司提出「安全推理資料中心」SIDC 架構，將 AI 推理算力提升至國家安全層級，透過硬體隔離、資料二極體與形式化驗證打造 AI 算力堡壘。

Anthropic驚爆「Model 2」新模型！性能超越Mythos 5、AI風險評估卻陷「飽和」危機

Anthropic 最新風險報告首度揭露神秘模型 Model 2，AECI 得分 162.79 超越 Mythos 5；同時 AI 評測工具出現飽和，誤對齊風險也從極低升至低。