跳到主要内容

低成本AI机器

众所周知,随着最近 Deepseek-R1 的火爆和糟心的 服务器繁忙,请稍后再试,很多人都在考虑怎么本地部署,这个时候就会出现几个基础的问题

  • 部署在哪儿
  • 要花多少钱
  • 速度怎么样

部署在哪儿

我们可以看一下现在(2025-02-17)腾讯云上最便宜的Deepseek套餐价格

txy_price

这个是打完折之后7天的价格,配置上可以满足部署量化蒸馏之后的14B版本的需求

当然还有其他配置,不过就更加昂贵了

也不是不能使用cpu版本,但是cpu版本的配置在更贵的同时并没有更快,所以在使用云服务器的情况下还是直接使用GPU版本的比较好

讲道理我是觉得这个价格太高了,所以我选择本地部署,直接放在家里

要花多少钱

本地部署就需要装机了,此时就需要考虑配置的问题,富哥大可以直接上RTX5090或者A100之类的专业卡,不过我作为穷鬼还是装装二手机器吧

这边推荐一个比较便宜(2025-02-17)的配置

部件型号价格来源备注
主板科脑X99 ddr3主板139拼多多可以使用服务器ddr3内存条的主板,可以插一张显卡
CPUe5 2673v347淘宝支持服务器ddr3的洋垃圾CPU,12核心24线程
内存regddr3-16g26淘宝洋垃圾内存,便宜且大容量,150能搞64G内存
显卡p104-100 8G128咸鱼铁矿卡,主要是便宜,8G显存
电源二手拆机500w55拼多多只要给的接线够用瓦数够用就行
硬盘二手拆机ssd 120g30拼多多120g基本上就够用了
散热x99六热管散热器50拼多多扣具对了就行,六热管基本够用
总价475

机箱就看自己的喜好和买到的显卡长度了,只要能正常装下就够了

总的来说硬件成本大概就是500左右

提示

如果需要双卡,主板得买双卡槽,大概220元左右,并且还需要更换更大的电源,大约120元左右

单卡最高可以跑deepseek-r1:8B,双卡可以支持到14B

同时在使用双卡的情况下还可以额外部署Stable-Diffusion和Sovits服务

可以实现的效果(速度还凑合)

提示

再附上一个带搜索功能的