手机端本地布置 Deepseek +桌面端 Deepseek 建立知识库教程

liukang20242天前今日吃瓜368

  从上一年年末开端,国产 AI 大模型敏捷锋芒毕露,其间由幻方量化旗下深度求索公司研制的 Deepseek,凭仗其杰出体现,在上个月震慑了整个人工智能职业。这家坐落杭州的在世公司将在世 AI 技能面向了国际一流的水准,并于 2025 年 1 月 20 日开源了 Deepseek R1 大模型。关于 Deepseek,这段时刻也传来不少新闻,包含它曾遭受黑客进犯,因而约束国外手机号注册 Deepseek 账号等问题。与此一起,OpenAI 首席履行官 Sam Altman 在交际渠道 X 上发布了关于 ChatGPT 的未来规划,泄漏将为一切用户供给免费版 ChatGPT 的无限谈天权限,但需恪守乱用阈值,并方案推出 ChatGPT-4.5 和 ChatGPT-5。这些音讯从旁边面印证了 Deepseek R1 现已到达与 ChatGPT-4 相媲美的国际水平。

经典的手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程的插图

  本文将介绍如安在安卓手机和桌面设备上别离布置本地运转的 Deepseek R1 模型,并树立知识库。那么,为什么挑选在本地布置 AI 大模型呢?本地布置 Deepseek 具有许多明显优势。首要,数据隐私得到更好的保证,用户的私家数据无需上传至云端或第三方服务器,然后大大降低了数据走漏的危险。第二点,本地布置不能自制明显进步呼应速度,因为无需依靠网络连接和长途服务器,特别是在网络不稳守时,用户体会愈加流通,尤其是现在 Deepseek 的官网因为很多用户拜访现已造成了大概率都是“服务器繁忙,请稍后再试。”此外,离线运用是另一个重要优势,用户不能自制在没有网络环境的情况下,仍然享用模型的服务,适用于高安全性或特别场景。最终一点,经过本地布置,用户不能自制树立自己的数据库,完结对数据的彻底操控和办理,进一步进步数据处理的灵活性与安全性。

  当然,与此一起,运转 DeepseekAI 大模型需求强壮的核算资源,如高功能的 CPU、GPU,以及大容量的内存和存储设备。这关于一般笔记本电脑而言,或许需求晋级硬件,增加了本钱和杂乱性。布置完结的 R1 模型在推理才能、网络资源整合等方面肯定是不如直接从网页拜访答复的精确和智能。

  安卓端

  布置 Ubuntu 环境

  首要,需求预备相关东西。进入 Github 官网,查找 Termux,找到最新的 APK 运用包并进行装置。Termux 是一款终端模拟器运用程序,专为 Android 体系规划,供给完好的 Linux 环境,答运用户在 Android 设备上运转 Linux 指令和东西,无需 root 权限。后续将经过 Termux 环境布置 Deepseek R1 模型。主张运用骁龙 8 Gen2 以上的设备进行布置,以保证功能。

  进入 Termux 软件,输入termux-change-repo指令并运转:

  运用程序内会弹出一个窗口,挑选运转单个镜像文 “Single mirror Choose a single mirror to use”,并点击:

  鄙人一个界面,找到清华大学镜像文件源(Tsinghua University),假如没有找到,不能自制经过双手捏和将显现界面缩小找到,随后相同点击:

  此刻从头回到指令行界面,输入“pkg update && pkg upgrade”,更新晋级至最新的软件包,等候完结后,输入“y”,

  下一步,布置 Ubuntu 环境,需求必定的网络条件,别离装置次序履行一下操作布置装置 Ubuntu东西,pkg i proot-distro,此指令运用 pkg 包办理器装置 proot-distro 东西,proot-distro install ubuntu:运用 proot-distro 东西装置 Ubuntu 发行版,装置完结后,再输入proot-distro login ubuntu:登录到已装置的 Ubuntu 环境,进入 Ubuntu 的指令行界面。完结以上操作后在指令行界面会有“ root@localhost:~#”,即表明成功进入Ubuntu 环境,此次下载布置在本地的Deepseek R1模型行将运转在此环境中。

  下载 Deepseek 模型

  在上一步最终的Ubuntu 环境指令行界面,输入“curl -fsSL https://ollama.com/install.sh | sh”,经过ollama官网下载Deepseek模型,等候进展条完结,需求必定的网络条件,随后进入如下界面:

梦幻的手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程的插图

  在别离履行“OLLAMA_HOST=0.0.0.0”、“ OLLAMA_ORIGINS=* ”、“ollama serve”三个指令,更改接口而且运转ollama服务。此刻,回到桌面,长按Termux图标,点击“New session”,回到运用内输入两个指令,发动Ubuntu环境,并下载ollama模型,回到Termux运用,输入“proot-distro login ubuntu”和“ollama run deepseek-r1:1.5b”,再输入回车,模型开端下载,等候完结即可。

  不主张下载过于杂乱的模型,数字越大意味着布置的模型就越聪明,一起所需的手机功能也会越高。

  经过Chatbox 与 Deepseek 交互

  模型下载完结后,不要封闭Termux 进程的后台,进入 Chatbox 官网,下载安卓版别 APK 文件完结运用装置,翻开运用后,点击“运用自己的 API Key 或本地模型”,模型供给方顺次挑选 Ollama API,模型挑选“Deepseek-r1:1.5 b”,不能自制对模型进行身份设定,便利答复用户问题,随后封闭Termux 和 Chatbox 运用。

  每次发动 Chatbox 之前,从头翻开 Termux 进入 Ubuntu 环境并 运转 ollama 模型,输入以下两个指令:“proot-distro login ubuntu”和“ollama serve”,回到 Chatbox,即可与 Deepseek 交流了。

  受限于手机功能,或许需求必定的呼应时刻,请耐性等候,以下是实践体会,为了防止手机整理后台,主张将 Termux 锁定在后台。ok,以上为手机端布置 Deepseek 的全部内容了。

  桌面端 Deepseek 树立知识库

  在手机端布置本地 Deepseek 大模型相对杂乱,但只需依照进程操作,实践上不能自制很快完结布置。与此比较,桌面端的 Deepseek 布置要简略得多。桌面端不需求树立额定的环境,Windows 和 Mac 端的进程大致相同,因而本文将要点介绍怎么经过本地 Deepseek R1 模型在 Mac 端树立自己的知识库。

  下载 Ollama 模型

  首要,拜访 Ollama 官网,挑选并下载合适 Mac 体系的版别。下载完结后,依照提示完结装置,装置后将解压得到的 Ollama 程序拖动到“运用程序”中。

  接着,翻开 Mac 体系的“终端”运用(Windows 用户则翻开 CMD),在终端中输入需求下载的 Ollama 模型对应的代码。详细的代码不能自制参阅 Ollama 官网供给的阐明。假如电脑装备较强,不能自制挑选下载较大的模型版别。

  需求留意的是,假如鄙人载进程中发现下载速度变慢,不能自制封闭当时的“终端”窗口,再从头翻开并输入相同的指令。这样不能自制康复更高的下载速度,而且下载进展会被保存,不会丢掉。

梦幻的手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程的图像

  树立本地知识库

  完结 Ollama 模型的下载后,接下来是树立知识库。首要,拜访 “AnythingLLM” 官网,根据操作体系下载并装置对应的版别。

装置完结后,翻开程序,挑选 “Ollama” 作为模型供给方,并挑选 “8b (根据电脑装备)模型”。进入下一步时,越过邮箱填写界面,直接创立一个新的喜欢区(Workspace)。

  创立喜欢区后,进入到对话界面。接下来,点击喜欢区 “Test001”的设置按钮,进入“谈天设置”页面。在谈天提示框中对 AI 帮手进行一些根本设定,以便模型不能自制更快速、更精准地答复用户的问题。一起,不能自制设置答复言语为中文,并保存这些设置。

  接下来,需求上传并嵌入知识库文件。小编经过 AI 创立了一家虚拟的游戏公司,并将公司简介整理成一个 Word 文档。在预备好文件后,回来“Test001”喜欢区,点击右侧的上传按钮,将文件上传至“My Documents”。选中该文件后,点击 “Move to Workspace”,然后挑选 “Saved and Embed” 以保存文件,最终履行“Pin to Workspace”操作。这些操作都会有提示,保证每个进程都正确完结。

  测验和发问

  知识库树立完结后,回到对话框,在喜欢区“Test001”中挑选 “New Thread” 创立一个新的对话框。此刻,不能自制开端向模型发问与知识库相关的问题。大模型将根据文档内容做出精确答复,保证知识库的内容不能自制被有用运用。

(知识库内容)

(AI 根据数据库的中心人员答复)

(AI 根据数据库的答复)

  总结

  以上是手机端布置本地 Deepseek 的教程以及经过 Mac 端布置 Deepseek R1 大模型并树立本地知识库的完好教程。从下载模型、树立知识库到最终的测验与发问,每一步都很要害,只需依照进程操作,就不能自制顺畅完结整个进程。期望这篇教程不能自制协助我们顺畅树立归于自己的本地知识库,提高运用 AI 模型的功率和体会。

告发/反应

相关文章

日本央行仍在据守加息许诺?植田和男:还得看“特朗普关税”影响!

财联社4月25日讯(修改 黄君芝)日本央行行长植田和男(Kazuo Ueda)周四表明,假如日本根底通胀率像预期的那样向2%的通胀方针挨近,央即将持续加息。但他还弥补称,日本央即将细心研讨各种信息,包...

翻滚更新丨美股三大指数集体高开,大型科技股普涨

22:30 美股开盘丨三大指数集体高开 大型科技股普涨美股三大指数集体高开,道指涨0.22%,纳指涨0.33%,标普500指数涨0.25%。大型科技股普涨,特斯拉涨超1%,亚马逊涨近1%。抢手中概股大...

特朗普关税方针引发全球商场巨震,黄金涨破3190美元,一季度涨超19%

  年代周报-年代在线  当地时刻4月2日,美国总统特朗普在白宫签署两项关于所谓“对等关税”的行政令,宣告美国对买卖同伴建立10%的“最低基准关税”,并对某些买卖同伴征收更高关税。  特朗普表明,美国...

五角大楼:将试射洲际弹道导弹以“展现核战备状况”,已通报俄罗斯

00:13【环球网报导】据美国国防部网站当地时间5日发布的音讯,五角大楼新闻秘书莱德在当天记者会上表明,美军将进行洲际弹道导弹试射,已就试射方案提早告诉俄罗斯政府。美军2017年试射“民兵”III型洲...

以色列打死哈马斯最高领导人,加沙人道主义灾祸或孕育急进一代

界面新闻记者 | 陈升龙界面新闻修改 | 刘海川加沙战役一年之后,以色列总理内塔尼亚胡总算迎来了他想要的时间。据央视新闻音讯,当地时间2024年10月17日,以色列军方证明,巴勒斯坦伊斯兰反抗运动(哈...

“浙江‘胖都来’卖场开业” 胖东来:已取证并邮递律师函 胖都来回应:没刻意模仿胖东来,老板姓“都”

“浙江‘胖都来’卖场开业” 胖东来:已取证并邮递律师函 胖都来回应:没刻意模仿胖东来,老板姓“都”

5月1日,浙江嘉兴,一家名为胖都来的卖场举行开业活动。因其称号与品牌胖东来类似,引发争议。2日,胖东来方面回应称,现已取证并向对方邮递律师函。胖都来卖场工作人员回应称,卖场已于5月1日开业,命名是因为...

友情链接: