Edge0 开源 145B 端侧模型,可在笔记本本地运行
Edge0 宣布开源 Edge0-145B 与 Edge0-120B 模型及统一推理框架和部署工具,称 Edge0-145B 是首个可在个人电脑本地运行的 145B 参数开源模型。
为什么值得看
原文给出具体基准分数、内存和速度实测数据,并开源了权重和推理框架,读者可据此评估端侧大模型的实际可用性。
本文由 SoccerDream AI 自动聚合索引,内容版权归原作者与 Hacker News:AI 热帖 所有。
本站仅作技术动态聚合,不构成任何形式的建议。
本站仅作技术动态聚合,不构成任何形式的建议。