低成本AI机器
众所周知,随着最近 Deepseek-R1 的火爆和糟心的 服务器繁忙,请稍后再试
,很多人都在考虑怎么本地部署,这个时候就会出现几个基础的问题
- 部署在哪儿
- 要花多少钱
- 速度怎么样
部署在哪儿
我们可以看一下现在(2025-02-17)腾讯云上最便宜的Deepseek套餐价格
这个是打完折之后7天的价格,配置上可以满足部署量化蒸馏之后的14B版本的需求
当然还有其他配置,不过就更加昂贵了
也不是不能使用cpu版本,但是cpu版本的配置在更贵的同时并没有更快,所以在使用云服务器的情况下还是直接使用GPU版本的比较好
讲道理我是觉得这个价格太高了,所以我选择本地部署,直接放在家里
要花多少钱
本地部署就需要装机了,此时就需要考虑配置的问题,富哥大可以直接上RTX5090或者A100之类的专业卡,不过我作为穷鬼还是装装二手机器吧
这边推荐一个比较便宜(2025-02-17)的配置
部件 | 型号 | 价格 | 来源 | 备注 |
---|---|---|---|---|
主板 | 科脑X99 ddr3主板 | 139 | 拼多多 | 可以使用服务器ddr3内存条的主板,可以插一张显卡 |
CPU | e5 2673v3 | 47 | 淘宝 | 支持服务器ddr3的洋垃圾CPU,12核心24线程 |
内存 | regddr3-16g | 26 | 淘宝 | 洋垃圾内存,便宜且大容量,150能搞64G内存 |
显卡 | p104-100 8G | 128 | 咸鱼 | 铁矿卡,主要是便宜,8G显存 |