手机端本地布置 Deepseek +桌面端 Deepseek 建立知识库教程

liukang20243个月前今日吃瓜429

  从上一年年末开端,国产 AI 大模型敏捷锋芒毕露,其间由幻方量化旗下深度求索公司研制的 Deepseek,凭仗其杰出体现,在上个月震慑了整个人工智能职业。这家坐落杭州的在世公司将在世 AI 技能面向了国际一流的水准,并于 2025 年 1 月 20 日开源了 Deepseek R1 大模型。关于 Deepseek,这段时刻也传来不少新闻,包含它曾遭受黑客进犯,因而约束国外手机号注册 Deepseek 账号等问题。与此一起,OpenAI 首席履行官 Sam Altman 在交际渠道 X 上发布了关于 ChatGPT 的未来规划,泄漏将为一切用户供给免费版 ChatGPT 的无限谈天权限,但需恪守乱用阈值,并方案推出 ChatGPT-4.5 和 ChatGPT-5。这些音讯从旁边面印证了 Deepseek R1 现已到达与 ChatGPT-4 相媲美的国际水平。

经典的手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程的插图

  本文将介绍如安在安卓手机和桌面设备上别离布置本地运转的 Deepseek R1 模型,并树立知识库。那么,为什么挑选在本地布置 AI 大模型呢?本地布置 Deepseek 具有许多明显优势。首要,数据隐私得到更好的保证,用户的私家数据无需上传至云端或第三方服务器,然后大大降低了数据走漏的危险。第二点,本地布置不能自制明显进步呼应速度,因为无需依靠网络连接和长途服务器,特别是在网络不稳守时,用户体会愈加流通,尤其是现在 Deepseek 的官网因为很多用户拜访现已造成了大概率都是“服务器繁忙,请稍后再试。”此外,离线运用是另一个重要优势,用户不能自制在没有网络环境的情况下,仍然享用模型的服务,适用于高安全性或特别场景。最终一点,经过本地布置,用户不能自制树立自己的数据库,完结对数据的彻底操控和办理,进一步进步数据处理的灵活性与安全性。

  当然,与此一起,运转 DeepseekAI 大模型需求强壮的核算资源,如高功能的 CPU、GPU,以及大容量的内存和存储设备。这关于一般笔记本电脑而言,或许需求晋级硬件,增加了本钱和杂乱性。布置完结的 R1 模型在推理才能、网络资源整合等方面肯定是不如直接从网页拜访答复的精确和智能。

  安卓端

  布置 Ubuntu 环境

  首要,需求预备相关东西。进入 Github 官网,查找 Termux,找到最新的 APK 运用包并进行装置。Termux 是一款终端模拟器运用程序,专为 Android 体系规划,供给完好的 Linux 环境,答运用户在 Android 设备上运转 Linux 指令和东西,无需 root 权限。后续将经过 Termux 环境布置 Deepseek R1 模型。主张运用骁龙 8 Gen2 以上的设备进行布置,以保证功能。

  进入 Termux 软件,输入termux-change-repo指令并运转:

  运用程序内会弹出一个窗口,挑选运转单个镜像文 “Single mirror Choose a single mirror to use”,并点击:

  鄙人一个界面,找到清华大学镜像文件源(Tsinghua University),假如没有找到,不能自制经过双手捏和将显现界面缩小找到,随后相同点击:

  此刻从头回到指令行界面,输入“pkg update && pkg upgrade”,更新晋级至最新的软件包,等候完结后,输入“y”,

  下一步,布置 Ubuntu 环境,需求必定的网络条件,别离装置次序履行一下操作布置装置 Ubuntu东西,pkg i proot-distro,此指令运用 pkg 包办理器装置 proot-distro 东西,proot-distro install ubuntu:运用 proot-distro 东西装置 Ubuntu 发行版,装置完结后,再输入proot-distro login ubuntu:登录到已装置的 Ubuntu 环境,进入 Ubuntu 的指令行界面。完结以上操作后在指令行界面会有“ root@localhost:~#”,即表明成功进入Ubuntu 环境,此次下载布置在本地的Deepseek R1模型行将运转在此环境中。

  下载 Deepseek 模型

  在上一步最终的Ubuntu 环境指令行界面,输入“curl -fsSL https://ollama.com/install.sh | sh”,经过ollama官网下载Deepseek模型,等候进展条完结,需求必定的网络条件,随后进入如下界面:

梦幻的手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程的插图

  在别离履行“OLLAMA_HOST=0.0.0.0”、“ OLLAMA_ORIGINS=* ”、“ollama serve”三个指令,更改接口而且运转ollama服务。此刻,回到桌面,长按Termux图标,点击“New session”,回到运用内输入两个指令,发动Ubuntu环境,并下载ollama模型,回到Termux运用,输入“proot-distro login ubuntu”和“ollama run deepseek-r1:1.5b”,再输入回车,模型开端下载,等候完结即可。

  不主张下载过于杂乱的模型,数字越大意味着布置的模型就越聪明,一起所需的手机功能也会越高。

  经过Chatbox 与 Deepseek 交互

  模型下载完结后,不要封闭Termux 进程的后台,进入 Chatbox 官网,下载安卓版别 APK 文件完结运用装置,翻开运用后,点击“运用自己的 API Key 或本地模型”,模型供给方顺次挑选 Ollama API,模型挑选“Deepseek-r1:1.5 b”,不能自制对模型进行身份设定,便利答复用户问题,随后封闭Termux 和 Chatbox 运用。

  每次发动 Chatbox 之前,从头翻开 Termux 进入 Ubuntu 环境并 运转 ollama 模型,输入以下两个指令:“proot-distro login ubuntu”和“ollama serve”,回到 Chatbox,即可与 Deepseek 交流了。

  受限于手机功能,或许需求必定的呼应时刻,请耐性等候,以下是实践体会,为了防止手机整理后台,主张将 Termux 锁定在后台。ok,以上为手机端布置 Deepseek 的全部内容了。

  桌面端 Deepseek 树立知识库

  在手机端布置本地 Deepseek 大模型相对杂乱,但只需依照进程操作,实践上不能自制很快完结布置。与此比较,桌面端的 Deepseek 布置要简略得多。桌面端不需求树立额定的环境,Windows 和 Mac 端的进程大致相同,因而本文将要点介绍怎么经过本地 Deepseek R1 模型在 Mac 端树立自己的知识库。

  下载 Ollama 模型

  首要,拜访 Ollama 官网,挑选并下载合适 Mac 体系的版别。下载完结后,依照提示完结装置,装置后将解压得到的 Ollama 程序拖动到“运用程序”中。

  接着,翻开 Mac 体系的“终端”运用(Windows 用户则翻开 CMD),在终端中输入需求下载的 Ollama 模型对应的代码。详细的代码不能自制参阅 Ollama 官网供给的阐明。假如电脑装备较强,不能自制挑选下载较大的模型版别。

  需求留意的是,假如鄙人载进程中发现下载速度变慢,不能自制封闭当时的“终端”窗口,再从头翻开并输入相同的指令。这样不能自制康复更高的下载速度,而且下载进展会被保存,不会丢掉。

梦幻的手机端本地部署 Deepseek +桌面端 Deepseek 搭建知识库教程的图像

  树立本地知识库

  完结 Ollama 模型的下载后,接下来是树立知识库。首要,拜访 “AnythingLLM” 官网,根据操作体系下载并装置对应的版别。

装置完结后,翻开程序,挑选 “Ollama” 作为模型供给方,并挑选 “8b (根据电脑装备)模型”。进入下一步时,越过邮箱填写界面,直接创立一个新的喜欢区(Workspace)。

  创立喜欢区后,进入到对话界面。接下来,点击喜欢区 “Test001”的设置按钮,进入“谈天设置”页面。在谈天提示框中对 AI 帮手进行一些根本设定,以便模型不能自制更快速、更精准地答复用户的问题。一起,不能自制设置答复言语为中文,并保存这些设置。

  接下来,需求上传并嵌入知识库文件。小编经过 AI 创立了一家虚拟的游戏公司,并将公司简介整理成一个 Word 文档。在预备好文件后,回来“Test001”喜欢区,点击右侧的上传按钮,将文件上传至“My Documents”。选中该文件后,点击 “Move to Workspace”,然后挑选 “Saved and Embed” 以保存文件,最终履行“Pin to Workspace”操作。这些操作都会有提示,保证每个进程都正确完结。

  测验和发问

  知识库树立完结后,回到对话框,在喜欢区“Test001”中挑选 “New Thread” 创立一个新的对话框。此刻,不能自制开端向模型发问与知识库相关的问题。大模型将根据文档内容做出精确答复,保证知识库的内容不能自制被有用运用。

(知识库内容)

(AI 根据数据库的中心人员答复)

(AI 根据数据库的答复)

  总结

  以上是手机端布置本地 Deepseek 的教程以及经过 Mac 端布置 Deepseek R1 大模型并树立本地知识库的完好教程。从下载模型、树立知识库到最终的测验与发问,每一步都很要害,只需依照进程操作,就不能自制顺畅完结整个进程。期望这篇教程不能自制协助我们顺畅树立归于自己的本地知识库,提高运用 AI 模型的功率和体会。

告发/反应

相关文章

最新7个瓜吴亦凡被判刑13年张嘉倪老公被曝出轨都是大瓜?国内吃瓜爆料黑料

  11月25日,根据官方报道,吴亦凡案件判决结果已经出来,他因罪、聚众罪,数罪并罚被判处有期徒刑13年,附加驱逐出境。   从官方通报的内容来看,吴亦凡事件,远比大家想...

传送门吃瓜网友科普:上面开下面火是什么字?揭秘汉字奥秘

传送门吃瓜网友科普:揭秘汉字“上面开下面火”的奥秘最近,一条关于汉字的有趣提问在传送门吃瓜网友的讨论中火了:“上面开下面火是什么字?”这个看似简单的谜题,不仅引发了网友的脑洞大开,更让我们重新关注起汉...

网红吃瓜网站真的假的,真假难辨,真相大白

网红吃瓜网站真的假的,真假难辨,真相大白

最近网上有个网红吃瓜网站火得一塌糊涂,你是不是也好奇它到底是不是真的呢?咱们一起来揭开这个神秘的面纱,看看这背后到底藏着什么秘密吧!一、网红吃瓜网站的兴起自从短视频平台兴起,网红们就像雨后春笋般冒了出...

国内吃瓜爆料黑料深夜娱乐圈五大劲爆瓜:从家暴到黑料周润发、龚俊引发热议

  在娱乐圈,秘密、丑闻与隐私总是层出不穷,深夜放瓜的传统更是让网络舆论沸腾不已。最近,这样一个夜晚,我们迎来了五个令人震惊的瓜,涉及到的明星与事件,真可谓一个比一个劲爆。周润发的昔日风光...

刘国梁请辞,王励勤中选我国乒协主席

我国青年报客户端北京4月23日电(中青报·中青网记者慈鑫)我国乒乓球协会第十届会员代表大会第2次会议今天上午在北京举办。会议审议经过刘国梁辞去我国乒协主席职务,推举王励勤为新任主席,高元义、马龙为副主...

去国外做蓝领,现已成为一部分人的人生挑选。这意味着远离内卷,变得松懈,但一同,也丢掉了自己斗争多年的阅历,生疏从零开端。

咱们找了几位出海打工的人,他们为什么乐意放下原有的堆集?表达敞开一段新日子?价值感产生了怎样的改动?以下是他们的叙述。

文 | 徐晴 月弥

修改 | 金匝

名字:张彦斌

年岁:70后

住址:塔斯马尼亚岛

作业:电工

“来了塔斯马尼亚岛,我也没有脱节中年危机”

我是山西人,大学结业后一向在北京作业,先是在媒体作业了十几年,后来去了互联网大厂,成为一名中层。但现在,我在塔斯马尼亚岛,当一名电工。

有出去的主意,是在2017年。在那之前,我在北京东五环外住着一套大房子,孩子不到3岁,过上了早年愿望中的那种“中产”日子。直到孩子快上幼儿园——“中产”愿望被打破。

考虑到孩子要上好的幼儿园、好的小学,咱们把大房子置换成一套老破小学区房。那个房子老到什么程度呢?咱们住在一层,白日不开灯的话,屋里乌黑,下水道也总是堵。我有时分在公司作业,会接到家人电话,说下水道又堵了,我就得回去处理。

房子的面积太小了,小到它得“限额”,一同呈现在这个空间里的人不能大于3个。白日,我跟爱人分头上班,孩子的姥姥和保姆担任接送孩子去校园,晚上我跟爱人回来,姥姥和保姆各自回家。

日子在国内,想彻底脱离鸡娃的气氛很难,一到周末,小区的孩子们以身许国消失,都去上各种课外班。孩子读幼儿园的时分,咱们也送他去上爱好班,周六学游水,周日学画画,我跟爱人的周末便是陪孩子上课。

换房子对咱们一家的日子影响太大了,时刻久了,咱们都很难过。我本便是一个神往自在的人,一同,我不期望孩子长大后阅历更剧烈的竞赛,用更多的尽力换来没那么舒适的日子。所以也会想,之后究竟要去哪里。

其实假如想过得更舒畅,回老家也是一个挑选,但我没有想过这个方案。我爸爸妈妈的主意是,你到北京现已顶天了,人不能倒着走,十分困难从山西老家出来,上大学、读研究生,为什么要回去呢?而我,从18岁脱离家到后来40多岁,一向日子在北京,故土已变成了需求省亲时才回去、“生疏”的当地。我乃至不太熟悉回家的路,每年新年回去,我爸都会站在小区门口给我指路,生怕我找不到从哪里进小区。

2016年,我去美国采访,知道一个外来的家庭,他们向我展现了日子的另一种或许性,也让我也动了走出去的主意。这对配偶十年前带着孩子来了加拿大,我发现跟他们聊的论题和跟国内的朋友彻底不相同,孩子不是中心,也不触及课外班、择校什么的。他们配偶俩酷爱旅行,非洲、北欧、南美都去遍了,已是旅行圈内有名的博主。同行的几天,他们对日子的知道和情绪对我影响很大。所以,从2017年起,我和妻子开端预备走出来,寻觅日子本来该有的含义。

2019年4月,咱们真的搬到了澳大利亚的塔斯马尼亚岛,这个当地离悉尼很远,就像澳大利亚的“海南岛”。榜首次来,咱们是以旅行者的心态,看什么都新鲜,真实寓居之后,仍是得面临更日常,也更实际的问题,比方孩子在什么当地上学,一家子在哪里住,这个当地的日子水平缓房租怎么样,咱们要靠什么挣钱。

其时咱们也做了一些功课,澳大利亚的方针是,不管是租是买,只需有住宅合同,就能够在那个学区上学。咱们看了这儿校园的排名,在排名靠前校园的学区里租了房子。

刚到这儿的半年,房租是一个月1.3万人民币,家庭开销也不少,钱只出不进。爸爸妈妈还时不时催我,不能坐吃山空。我嘴上说不急,但心里其实很焦虑。

我爱人在国内是旅行作业的,咱们在安顿下来后开了个旅行公司,做个性化定制游。但刚做成了几单后就产生疫情了。咱们还买了一个小农场,种红树莓,但也没挣到什么钱。我开端考虑自己能够做什么。我一向对电工很感爱好,之前装饰房子,电路是我跟装饰师傅一同搞定的,在澳大利亚,这个作业强度也不算大,契合我的期望。

澳大利亚有很完善的作业教育课程,经过技能训练拿到证书,就能够做相应的作业,规矩区分得很详尽,很专业。我报名了本地的一个电工课程,花了大约1200元人民币,拿到了一个证书,凭仗这个证书,我能够做一些简略的作业,比方衔接设备、装置监控、烟雾报警器等等,假如想做更侦查的作业,就得找一个师傅,做4年电工学徒,拿到电工证。

脱离大厂,我去国外做蓝领,仍然躲不过40岁危机

去国外做蓝领,现已成为一部分人的人生挑选。这意味着远离内卷,变得松懈,但一同,也丢掉了自己斗争多年的阅历,生疏从零开端。咱们找了几位出海打工的人,他们为什么乐意放下原有的堆集?表达敞开一段新日子?价值...

友情链接: