1 篇文章
TechLab 所有關於「Local LLM」嘅文章、評測同教學,由最新排起。
XDA 作者話,AMD Lemonade 加咗 Nvidia CUDA 支援後,佢終於可以喺 Radeon、RTX、DGX Spark 同 mini PC 上用同一套本機 AI server。官方文件確認 text generation 走 llama.cpp CUDA 支援 Turing 或更新 Nvidia GPU;實際賣點係少啲俾單一 GPU 生態綁住,最高跑分就留返畀專用 stack。