TAG
#模型蒸餾
4 篇文章
TechLab 所有關於「模型蒸餾」嘅文章、評測同教學,由最新排起。
3C 產品AI 模型蒸餾點令 coding model 塞得入 laptop?同量化差喺邊
模型蒸餾會用大型 teacher 嘅輸出訓練細型 student,量化就壓低權重精度,兩招其實可以疊住用。對本機 coding model 嚟講,呢套組合直接影響速度、答案質素、RAM 需求,同埋公司程式碼使唔使離開部機。
1 個月前
Tech News公司用 ChatGPT、Claude 會唔會交出商業機密?Karp 指控要拆開睇
Palantir CEO Alex Karp 指控閉源 AI 供應商叫企業交出 IP。不過,OpenAI 同 Anthropic 嘅商業產品都話預設唔會攞客戶內容訓練模型。企業要查清楚嘅,仲有資料保存、prompt cache、第三方服務同部署位置。
1 個月前
Tech NewsAnthropic 指 Alibaba 大規模蒸餾 Claude,爭嘅係 coding agent 能力
Anthropic 喺 6 月 10 日信件指,Alibaba/Qwen 相關人員用近 25,000 個假帳戶同 Claude 做 2,880 萬次互動,目標係 agentic reasoning 同寫 code。件事未有公開審理,但已經反映 AI coding agent 點解成為模型公司重點保護嘅能力。
2 個月前
Tech News美國擬查中國 AI 模型蒸餾:技術學習點解會變成竊取指控同制裁風險
美國財長貝森特話會調查中國 AI 模型有冇抽取美國模型能力,查到涉及竊取就可能制裁。不過蒸餾本身係正常訓練方法,美方亦未公開所謂「水印」證據。對開發者嚟講,實際風險落喺 API、付款、雲端供應同模型分發會唔會受限制。
2 個月前