AI 陪你傾足一星期：建立信任同叫人照做竟然贏過受訓真人
研究拆解長時間對話點樣令人更易照做，同時交代實驗有咩限制
AI 贏咗啲咩
研究團隊搵咗 22 名完成實驗嘅參加者，年齡由 18 歲至 65 歲以上，來自 12 個國家。每人連續七日喺 WhatsApp 同兩名「新朋友」傾偈，一個係受過六小時訓練嘅真人，另一個係 LLM agent，但參加者事前唔知有 AI。每日要同兩邊各傾至少 15 分鐘，所有互動只限文字，唔准語音、電話同視像通話。
七日之後，AI 喺情感信任、連繫感同整體信任評分都高過真人。研究人員再叫兩個「朋友」分別游說參加者安裝一款無害 app，結果 46% 參加者答應 AI，真人嗰邊只有 18%。呢個數字只反映受控環境下，有幾多人答應做一件低風險嘅事；唔等於有 46% 人會交錢，亦唔代表 AI 已經可以獨力完成成套投資騙局。
圖片：守網者 CyberDefender
佢唔只靠模型把口
研究用 Claude 3.7 Sonnet 負責主要對話，GPT-4o 就整理每日紀錄、管理任務同喺系統出問題時頂上。Agent 每日會讀返之前嘅對話摘要同最近 20 段訊息，記住參加者講過嘅家庭、工作同興趣；另一套「扮人」流程會拆短信、減少標點、間中打錯字、模擬輸入時間，仲識得隔一段時間主動搵話題。
呢個設計解釋咗點解單靠文筆捉 AI 已經唔穩陣。太快覆、句句工整、永遠冇錯字，呢類舊式特徵可以刻意抹走。真正有用嘅觀察位係成個互動模式：對方長期只肯打字、避開即時查證，成日記得你嘅情緒同需要，又逐步試你肯唔肯照做。記性好、夠體貼、傾得自然，只代表套系統做得好，證明唔到身份。
信任可以逐級變成服從
呢類騙案通常先用錯誤訊息、交友邀請或者投資內容開場，跟住花幾星期建立關係，最後先帶去假投資平台。AI 啱啱好擅長中間最花時間嗰段：長期陪傾、正面回應、追問細節，再用每日摘要維持一個看似連貫嘅人物。研究參加者甚至將 70% 至 80% 嘅訊息發畀 AI 對手，接近真人嗰邊兩倍。
騙徒亦唔使一開口就叫你過數。佢可以先試幾個細要求，例如轉去另一個通訊 app、撳連結、加入群組、下載工具，睇吓你服從到咩程度。到「老師」、助理同群友輪流出場，成班人展示盈利截圖，再催你用指定平台入金，前面累積落嚟嘅信任就開始值錢。AI 可以包辦大量日常對話；但去到游說受害人落大額投資、即場應付質疑同操控假平台，受訪者仍然認為有經驗嘅真人好關鍵。
呢份研究未證明 AI 已全面接管騙案
樣本只有 22 人，而且主要來自大學社群，規模同背景都限制咗結果可以推到幾遠。現實中陌生訊息一出，好多人會即刻封鎖；實驗就要求參加者每日傾至少 15 分鐘，已經跳過咗騙徒最易失手嘅開場階段。七日亦短過真實個案常見嘅數星期甚至數月，未驗證 agent 長時間維持人物設定會唔會穿崩。
最重要係，最後要求只係安裝無害 app，風險遠低過把積蓄放入陌生投資平台。真人對手亦係大學生接受短期訓練，唔係真正詐騙集團入面擅長操控受害人嘅老手。所以「AI 贏真人」要收窄理解為：喺呢個指定實驗入面，AI 建立信任同推動低風險服從嘅成績較高。至於完整騙案有幾多已由 AI 操作，研究冇提供足夠數據下定論。
安全過濾點解捉唔到
研究團隊另外測試 Llama Guard 3、OpenAI Moderation API 同 Google Perspective API。呢啲工具較容易捉到恐嚇、有害內容或者明顯騙局，但戀愛誘導早段多數只係問候、鼓勵同分享生活，逐句睇幾乎全部都好正常。測試入面，三套工具對戀愛誘導對話嘅真正偵測率都係 0%；有啲訊息雖然觸發警報，最後全部屬於誤判。
風險就藏喺跨越幾日甚至幾星期嘅變化：由陌生人變知己，再由知己變投資引路人。內容過濾器如果只逐句判斷，自然睇唔到呢條路線。通訊平台要有效攔截，可能要分析新帳戶大量接觸陌生人、重複搬客去群組、集中發送投資連結等行為；不過咁做亦會牽涉私隱、加密通訊同誤封問題，冇一個簡單開關可以處理晒。
WhatsApp 同假投資群組要睇實際動作
香港警方數字顯示，2025 年錄得 5,135 宗網上投資騙案，損失 35.8 億港元，平均每宗約 70 萬元；80.4% 受害人經主流社交平台或即時通訊軟件接觸騙徒。數字冇講當中幾多涉及 AI，但接觸渠道同研究模擬嘅文字對話場景明顯重疊。
遇到長期只肯打字、迴避電話或視像核實身份嘅新朋友，要先停一停；對方突然由生活話題轉去投資、拉你入「老師」群組、叫你下載非官方 app，或者要求經指定戶口入金，就唔好再靠傾咗幾耐去判斷。可以自行搵官方網站核對牌照同聯絡方法，將電話、網址、平台帳號或收款戶口放入防騙視伏器查核。有懷疑就打防騙易 18222；已經入咗錢或者交出帳戶資料，就要即刻聯絡銀行同報警。
參考來源
- Ars Technica — AI scammers outperform humans when it comes to building trust — original report
- Love, Lies, and Language Models：USENIX Security 2026 論文頁 — 研究團隊官方摘要，核對訪談規模、核心結果同研究定位。
- Love, Lies, and Language Models 論文全文 — 核對 22 人實驗樣本、WhatsApp 設計、Claude 3.7 Sonnet／GPT-4o 架構、信任結果同限制。
- 香港警務處：2025 年香港整體治安情況 — 官方數字顯示網上投資騙案宗數、損失金額同平均損失。
- 香港政府新聞公報：2025 年香港整體治安情況 — 核對 80.4% 投資騙案受害人經社交平台或即時通訊軟件接觸騙徒。
- 守網者：股票貼士咪亂信，慎防誤墮「微信女」騙局 — 警方防騙資料，整理通訊軟件、假投資群組、指定 app 同 18222 等警號。
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
