AI 店長 Luna 解僱人類員工：有齊權限，點解仲要人類出聲提醒？
一次受控實驗，暴露長期記憶、主動性同人事 guardrail 嘅缺口
「AI 解僱人」只講中一半
TechNews 科技新報報道，舊金山實驗商店 Andon Market 嘅 AI 店長 Luna，首次建議解僱一名人類員工。Andon Labs 話，涉事員工返過 23 更，其中 17 更遲到，之前亦收過多次警告同額外訓練。不過 Luna 冇自己一路追蹤問題，再主動啟動解僱程序。 人類團隊先叫佢搵返出勤政策、重新評估員工表現，件事先去到終止僱傭關係嗰一步。
呢啲數字同管理紀錄主要由 Andon Labs 提供，暫時未有涉事員工一方確認。TIME 話曾經聯絡對方，但冇收到回覆，報道亦冇公開身份。呢點好重要，因為外界而家見到嘅，係公司公開嘅實驗紀錄同解釋，未足以獨立判斷每次遲到、警告內容同培訓安排係咪全部準確。
圖片：Andon Labs
人類問得夠明，Luna 先行到解僱結論
TIME 睇過店舖管理紀錄後指出，Luna 搵返員工手冊同遲到紀錄時，最初只建議再發正式警告。Andon Labs 人員其後補充，團隊線下已經同員工正式傾過幾次，再叫 Luna 諗清楚對方仲啱唔啱呢份工。共同創辦人 Lukas Petersson 亦承認，呢條問題帶有明顯方向。Luna 跟住先改為建議解僱，TechNews 科技新報報道指最後由人類審核同執行。
所以，今次較準確嘅描述係：AI 整理紀錄、套用政策同提出解僱建議，人類就提供關鍵背景、引導判斷、審批同埋執行。 員工法律上亦係受僱於 Andon Labs，薪酬、保障同僱主責任都落喺公司身上。如果話 Luna 係完全自主開除員工，就會高估咗系統當時嘅獨立程度，亦模糊咗人類管理層要負嘅責任。
有齊工具，唔等於識得主動跟進
Andon Labs 官方解釋，Luna 嘅運作內容去到約 20 萬 token 後，系統會壓縮舊資料，整理成長期同短期記憶，再連同最近 20 則訊息放入新一輪 context。問題係，摘要未必留得低最重要嗰幾項資料，Luna 有時亦冇用現成記憶工具。公司話佢試過因舊更表跌出 context，向員工發出互相矛盾嘅排班安排；今次員工手冊同出勤規則「消失」，其實係同一類故障。
呢個案例拆穿咗一個常見誤會：畀 AI agent 睇更表、員工手冊、Slack 同鏡頭，再開放管理權限，系統都可能只係等新訊息先回應。佢未必識得定期問「有冇持續違規」「上次警告後有冇改善」，亦未必會將幾個月前嘅規則，同今日嘅出勤紀錄重新扣埋。就算系統有權限執行，都唔代表佢識得幾時要跟進，亦可能根本唔記得要處理。
人事資料唔應該只靠對話摘要保存
公司如果想用 AI agent 排更或者跟進員工表現，出勤政策、警告次數、改善期限同申訴狀態，應該放喺有版本、有時間紀錄嘅結構化系統。每次建議亦要列出引用咗邊條政策、用咗咩紀錄，資料唔齊就停低交畀人處理。靠長對話壓縮出嚟嘅記憶做高風險人事決定，一次摘要漏料，已經足以令同類個案得到唔同待遇。
Andon Labs 本身設有 guardrail，會對照 Luna 嘅行為同系統規則，有問題時由人類經 Slack 介入。不過 guardrail 較容易捉到越權或違規動作，對「應該跟進但一直冇做」呢類沉默故障就難搞得多。今次又顯示，人類一條帶方向嘅提示已經可以推動結論；日後審計時，提示內容、補充資料、AI 建議同最終批核人都要完整保留。
最後決定仍然要由公司負責
現階段較穩陣嘅做法，係將整理證據、提出建議、批准決定同通知員工分開，解僱、紀律處分或扣薪繼續由有名有姓嘅人負責，員工亦要有覆核同申訴渠道。Andon Market 呢次受控實驗有參考價值，因為佢清楚示範咗 AI agent 喺長期記憶同主動跟進方面會點失手。公司考慮將 AI 放入排班、人事或營運流程時，公司應該先測試系統會唔會漏記資料或者冇跟進，再決定可以畀佢幾多權限。
參考來源
- TechNews 科技新報 — 舊金山 AI 店長 Luna 開除人類員工，但沒提示就不會主動出手 — original report
- Exclusive: Claude Was Put in Charge of Human Workers—and Fired One — 獨立報道睇過管理紀錄，補充 Luna 最初只建議警告、人類問題帶有方向，以及涉事員工未有回覆。
- Andon Market — Andon Labs 官方技術說明，詳列 Luna 嘅工具、20 萬 token context 壓縮方式、記憶問題同人類 guardrail。
- Meet Luna, an A.I. Agent Managing a Brick-and-Mortar Store, and the Humans Behind Her — 提供實驗背景，確認人類員工由 Andon Labs 正式聘用，以及店舖用作測試 AI 管理能力。
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
