AI 代理操作小鼠腦外科設備：授權邊界比自動化更關鍵
Tom’s Hardware 報道指，一間初創公司讓由 Anthropic Sonnet 驅動的 AI agent 控制電動手術裝置，對一隻小鼠進行涉及腦部的實驗，目標是以不同基因治療載體處理癲癇。報道標題同時稱，Opus 5.5 拒絕進行該生物實驗，而 Sonnet 則獲得較大的操作自主權。
最需要釐清的是，這項消息所描述的是一次動物實驗中的設備控制與決策授權，並非已證明 AI 可安全執行人類腦外科手術。現有來源沒有交代手術結果、模型收到的指令、可選操作範圍、人類監督程度、失敗保護機制，或動物福利及生物安全安排。因此，不能由此推論系統具備臨床可用性。
拒絕與獲准，反映的是部署規則
同一任務上，不同模型出現「拒絕」與「獲准操作」的差異，焦點不只在模型能力。模型的安全規則、系統層權限、接駁到實體設備後可執行的指令，以及人員是否能隨時中止，合在一起才構成實際風險邊界。
換言之，語言模型即使能提出實驗步驟，當它被連接到會移動、注射或操作生物材料的設備時，風險已由文字建議延伸至實體後果。模型本身的拒絕機制可作第一道限制，但不能取代設備端的權限控制、操作前核准、即時監察和緊急停機。
距離臨床仍有多重缺口
基因治療、腦部操作及動物實驗本身都屬高風險範圍。若未披露實驗設計和結果，外界無法判斷 AI 的角色是選擇治療路徑、發出設備指令，還是僅在既定流程中執行有限動作；三者的責任歸屬和監管要求差異很大。
這宗個案較適合被視為實驗室自動化正在碰觸的新治理問題：誰界定 AI 可作的選項、誰批准高風險動作、系統偏離預期時誰負責介入。對醫療 AI 而言，日後值得觀察的不是單看模型能否驅動設備，而是相關團隊會否公開可審核的權限設計、監督紀錄和安全驗證。
延伸閱讀
AI 輔助說明： 本文由 AI 協助整理，並經兩輪獨立自動品質審核；資料及連結仍以原始來源為準。
參考來源
- Tom's Hardware — AI agent used to perform controversial brain surgery on a mouse, Anthropic Sonnet controlled motorized surgery rig — original report
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
