手机端本地布置 Deepseek +桌面端 Deepseek 建立知识库教程

liukang20242个月前今日吃瓜400

  从上一年年末开端,国产 AI 大模型敏捷锋芒毕露,其间由幻方量化旗下深度求索公司研制的 Deepseek,凭仗其杰出体现,在上个月震慑了整个人工智能职业。这家坐落杭州的在世公司将在世 AI 技能面向了国际一流的水准,并于 2025 年 1 月 20 日开源了 Deepseek R1 大模型。关于 Deepseek,这段时刻也传来不少新闻,包含它曾遭受黑客进犯,因而约束国外手机号注册 Deepseek 账号等问题。与此一起,OpenAI 首席履行官 Sam Altman 在交际渠道 X 上发布了关于 ChatGPT 的未来规划,泄漏将为一切用户供给免费版 ChatGPT 的无限谈天权限,但需恪守乱用阈值,并方案推出 ChatGPT-4.5 和 ChatGPT-5。这些音讯从旁边面印证了 Deepseek R1 现已到达与 ChatGPT-4 相媲美的国际水平。

经典的手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程的插图

  本文将介绍如安在安卓手机和桌面设备上别离布置本地运转的 Deepseek R1 模型,并树立知识库。那么,为什么挑选在本地布置 AI 大模型呢?本地布置 Deepseek 具有许多明显优势。首要,数据隐私得到更好的保证,用户的私家数据无需上传至云端或第三方服务器,然后大大降低了数据走漏的危险。第二点,本地布置不能自制明显进步呼应速度,因为无需依靠网络连接和长途服务器,特别是在网络不稳守时,用户体会愈加流通,尤其是现在 Deepseek 的官网因为很多用户拜访现已造成了大概率都是“服务器繁忙,请稍后再试。”此外,离线运用是另一个重要优势,用户不能自制在没有网络环境的情况下,仍然享用模型的服务,适用于高安全性或特别场景。最终一点,经过本地布置,用户不能自制树立自己的数据库,完结对数据的彻底操控和办理,进一步进步数据处理的灵活性与安全性。

  当然,与此一起,运转 DeepseekAI 大模型需求强壮的核算资源,如高功能的 CPU、GPU,以及大容量的内存和存储设备。这关于一般笔记本电脑而言,或许需求晋级硬件,增加了本钱和杂乱性。布置完结的 R1 模型在推理才能、网络资源整合等方面肯定是不如直接从网页拜访答复的精确和智能。

  安卓端

  布置 Ubuntu 环境

  首要,需求预备相关东西。进入 Github 官网,查找 Termux,找到最新的 APK 运用包并进行装置。Termux 是一款终端模拟器运用程序,专为 Android 体系规划,供给完好的 Linux 环境,答运用户在 Android 设备上运转 Linux 指令和东西,无需 root 权限。后续将经过 Termux 环境布置 Deepseek R1 模型。主张运用骁龙 8 Gen2 以上的设备进行布置,以保证功能。

  进入 Termux 软件,输入termux-change-repo指令并运转:

  运用程序内会弹出一个窗口,挑选运转单个镜像文 “Single mirror Choose a single mirror to use”,并点击:

  鄙人一个界面,找到清华大学镜像文件源(Tsinghua University),假如没有找到,不能自制经过双手捏和将显现界面缩小找到,随后相同点击:

  此刻从头回到指令行界面,输入“pkg update && pkg upgrade”,更新晋级至最新的软件包,等候完结后,输入“y”,

  下一步,布置 Ubuntu 环境,需求必定的网络条件,别离装置次序履行一下操作布置装置 Ubuntu东西,pkg i proot-distro,此指令运用 pkg 包办理器装置 proot-distro 东西,proot-distro install ubuntu:运用 proot-distro 东西装置 Ubuntu 发行版,装置完结后,再输入proot-distro login ubuntu:登录到已装置的 Ubuntu 环境,进入 Ubuntu 的指令行界面。完结以上操作后在指令行界面会有“ root@localhost:~#”,即表明成功进入Ubuntu 环境,此次下载布置在本地的Deepseek R1模型行将运转在此环境中。

  下载 Deepseek 模型

  在上一步最终的Ubuntu 环境指令行界面,输入“curl -fsSL https://ollama.com/install.sh | sh”,经过ollama官网下载Deepseek模型,等候进展条完结,需求必定的网络条件,随后进入如下界面:

梦幻的手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程的插图

  在别离履行“OLLAMA_HOST=0.0.0.0”、“ OLLAMA_ORIGINS=* ”、“ollama serve”三个指令,更改接口而且运转ollama服务。此刻,回到桌面,长按Termux图标,点击“New session”,回到运用内输入两个指令,发动Ubuntu环境,并下载ollama模型,回到Termux运用,输入“proot-distro login ubuntu”和“ollama run deepseek-r1:1.5b”,再输入回车,模型开端下载,等候完结即可。

  不主张下载过于杂乱的模型,数字越大意味着布置的模型就越聪明,一起所需的手机功能也会越高。

  经过Chatbox 与 Deepseek 交互

  模型下载完结后,不要封闭Termux 进程的后台,进入 Chatbox 官网,下载安卓版别 APK 文件完结运用装置,翻开运用后,点击“运用自己的 API Key 或本地模型”,模型供给方顺次挑选 Ollama API,模型挑选“Deepseek-r1:1.5 b”,不能自制对模型进行身份设定,便利答复用户问题,随后封闭Termux 和 Chatbox 运用。

  每次发动 Chatbox 之前,从头翻开 Termux 进入 Ubuntu 环境并 运转 ollama 模型,输入以下两个指令:“proot-distro login ubuntu”和“ollama serve”,回到 Chatbox,即可与 Deepseek 交流了。

  受限于手机功能,或许需求必定的呼应时刻,请耐性等候,以下是实践体会,为了防止手机整理后台,主张将 Termux 锁定在后台。ok,以上为手机端布置 Deepseek 的全部内容了。

  桌面端 Deepseek 树立知识库

  在手机端布置本地 Deepseek 大模型相对杂乱,但只需依照进程操作,实践上不能自制很快完结布置。与此比较,桌面端的 Deepseek 布置要简略得多。桌面端不需求树立额定的环境,Windows 和 Mac 端的进程大致相同,因而本文将要点介绍怎么经过本地 Deepseek R1 模型在 Mac 端树立自己的知识库。

  下载 Ollama 模型

  首要,拜访 Ollama 官网,挑选并下载合适 Mac 体系的版别。下载完结后,依照提示完结装置,装置后将解压得到的 Ollama 程序拖动到“运用程序”中。

  接着,翻开 Mac 体系的“终端”运用(Windows 用户则翻开 CMD),在终端中输入需求下载的 Ollama 模型对应的代码。详细的代码不能自制参阅 Ollama 官网供给的阐明。假如电脑装备较强,不能自制挑选下载较大的模型版别。

  需求留意的是,假如鄙人载进程中发现下载速度变慢,不能自制封闭当时的“终端”窗口,再从头翻开并输入相同的指令。这样不能自制康复更高的下载速度,而且下载进展会被保存,不会丢掉。

梦幻的手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程的图像

  树立本地知识库

  完结 Ollama 模型的下载后,接下来是树立知识库。首要,拜访 “AnythingLLM” 官网,根据操作体系下载并装置对应的版别。

装置完结后,翻开程序,挑选 “Ollama” 作为模型供给方,并挑选 “8b (根据电脑装备)模型”。进入下一步时,越过邮箱填写界面,直接创立一个新的喜欢区(Workspace)。

  创立喜欢区后,进入到对话界面。接下来,点击喜欢区 “Test001”的设置按钮,进入“谈天设置”页面。在谈天提示框中对 AI 帮手进行一些根本设定,以便模型不能自制更快速、更精准地答复用户的问题。一起,不能自制设置答复言语为中文,并保存这些设置。

  接下来,需求上传并嵌入知识库文件。小编经过 AI 创立了一家虚拟的游戏公司,并将公司简介整理成一个 Word 文档。在预备好文件后,回来“Test001”喜欢区,点击右侧的上传按钮,将文件上传至“My Documents”。选中该文件后,点击 “Move to Workspace”,然后挑选 “Saved and Embed” 以保存文件,最终履行“Pin to Workspace”操作。这些操作都会有提示,保证每个进程都正确完结。

  测验和发问

  知识库树立完结后,回到对话框,在喜欢区“Test001”中挑选 “New Thread” 创立一个新的对话框。此刻,不能自制开端向模型发问与知识库相关的问题。大模型将根据文档内容做出精确答复,保证知识库的内容不能自制被有用运用。

(知识库内容)

(AI 根据数据库的中心人员答复)

(AI 根据数据库的答复)

  总结

  以上是手机端布置本地 Deepseek 的教程以及经过 Mac 端布置 Deepseek R1 大模型并树立本地知识库的完好教程。从下载模型、树立知识库到最终的测验与发问,每一步都很要害,只需依照进程操作,就不能自制顺畅完结整个进程。期望这篇教程不能自制协助我们顺畅树立归于自己的本地知识库,提高运用 AI 模型的功率和体会。

告发/反应

相关文章

混合集体世界杯|王楚钦发球遭投诉,国乒豪取六连胜

王楚钦(左)/孙颖莎在混双竞赛中。北京时间12月7日,2023年成都国际乒联混合团体世界杯第二阶段竞赛继续进行,我国队以8比1别离打败我国台北队和法国队,迎来六连胜。竞赛结果都在预料之中,仅仅竞赛进程...

v6娱乐招商,开启全新娱乐产业合作新篇章

v6娱乐招商,开启全新娱乐产业合作新篇章

你知道吗?最近有个超级火热的招商项目,那就是v6娱乐招商!是不是听起来就让人心动不已?别急,让我带你一探究竟,看看这个项目到底有什么魅力,为什么能吸引那么多人呢?一、v6娱乐招商:什么是它?v6娱乐招...

四处收茅台的“黄牛”公司纷繁跑路了?

来历:酒业内参  文 | WBO烈酒商业团队  近来,有业内人士泄漏:“许多茅台黄牛现已扛不住了,开端团体跑路。”烈酒商业在查询中也发现,确实许多茅台撸货群被闭幕,还有不少中心流互易商货上黄牛公司维权...

不调休、不免费!6月只上19天班

不调休、不免费!6月只上19天班

盼望着盼望着下一个假日就要来了6月8日至10日端午节假日共3天不调休!不调休!不调休!重要的事说三遍~有网友发现惊喜音讯六月只需上班19天就能拿一整个月的薪酬相关论题 #六月上班好合算# #忽然发现...

特朗普最新支持率发布

转自:宁波晚报据美国《华尔街日报》,一项最新民调发现,特朗普就任后大规模推进加征关税,美国选民对他的决心现在正逐渐转为质疑。此外,对特朗普办理经济的体现持负面点评者,也比正面点评多8个百分点,呈现明显...

林志玲大秀工作线如今40多岁一点不显老

林志玲散步,林志玲到会某活动时,如今40多岁的林志玲一点不显老,反而大秀工作线,可谓是女性味十足,坐沙发一点不介意双胸显露,几乎超级吸睛。继前次志玲姐姐穿淡色外套,显露傲人双峰与性感美腿之后,日前,志...

友情链接: