如何在ubuntu上安装运行deepseek?

OpenStack/Juju/MAAS/CloudStack/Hadoop
回复
头像
百草谷居士
帖子: 4020
注册时间: 2006-02-10 16:36
系统: debian12/xubuntu2404

如何在ubuntu上安装运行deepseek?

#1

帖子 百草谷居士 » 2025-02-26 6:39

deepseek如此火爆,据说又是开源的。那么如何在ubuntu系统上安装部署deepseek呢?
我只会在手机app上使用deepseek,其他的一无所知。有没有明白的高手,给讲解一下,让我也尝试尝试本地化部署
Mint 22 / Xubuntu 24.04

为何热衷于搞发行版的多,搞应用程序开发的少?Linux最多余的就是各种发行版,最缺的就是应用程序,特别是行业应用程序。
头像
百草谷居士
帖子: 4020
注册时间: 2006-02-10 16:36
系统: debian12/xubuntu2404

Re: 如何在ubuntu上安装运行deepseek?

#3

帖子 百草谷居士 » 2025-02-26 13:41

参考第二篇文章完成了 deepseek 的本地化部署。然而,运行结果令人惊讶,提供的尽是些东拼西凑乱七八糟的东西。
难道是没有知识库的原因吗?如果构建本地化的知识库?
Mint 22 / Xubuntu 24.04

为何热衷于搞发行版的多,搞应用程序开发的少?Linux最多余的就是各种发行版,最缺的就是应用程序,特别是行业应用程序。
头像
懒蜗牛Gentoo
论坛版主
帖子: 7362
注册时间: 2007-03-02 17:36
系统: Linux Mint

Re: 如何在ubuntu上安装运行deepseek?

#4

帖子 懒蜗牛Gentoo » 2025-02-26 15:38

你能本地运行的应该是蒸馏版。完全体有617B,需要七八块4090显卡才能跑起来,所以效果肯定不同。
基本上那个1.5b的就是个傻子,好处是没显卡也能跑起来。
我的1060显卡6G显存,基本能跑个8B的版本,14B的就感觉有点慢,但也能忍。8B的版本还是能说句人话的,让他用python写个简单的程序也差不多能写个七七八八。
虽然世上没有完美的东西,但这并不影响我们追求完美,因为只有偏执狂才TMD能成功。
10.04新手入门——笨兔兔讲述自己的故事
回复