查看完整版本: [资源]免费！！隐私！！本地！！Llama 3大模型隐私机器人

[资源]免费！！隐私！！本地！！Llama 3大模型隐私机器人

给大家分享一款很实用的软件，[b][size=5] 免费！！隐私！！本地！！Llama 3大模型隐私机器人，无需 GPU 或互联网。[/size][/b]


文章比较长，介绍的很详细，容易出问题的地方，都做了详细的解决办法，耐心对着做就ok









[b][size=5]第一步[/size][/b]下载、安装

[url]https://gpt4all.io/index.html[/url]

windows、mac自行选择，本教程是windows版本

[img]https://img2.imgtp.com/2024/04/30/kUITS8EF.png[/img]





[b][size=5]第二步[/size][/b]（注意：这步需要开魔法，这里一定要注意，出现下载卡住，要注意网络环境）

双击桌面图标打开，勾选统一NO 不把数据上传数据库



然后会出现这个界面，我们输入Llama 3 ，进行模型下载

[img]https://img2.imgtp.com/2024/04/30/YcXPvYaW.png[/img]






我这里选择的第一个8B模型，因为这个模型需要的电脑配置很低，如果有高级显卡的可以往下翻，自行选择







注意如果出现下载卡住，实在下载不了的，点击这里去官网手动下载

[img]https://img2.imgtp.com/2024/04/30/2qM6Sw5G.png[/img]




[img]https://img2.imgtp.com/2024/04/30/dpgQb9GQ.png[/img]




下载完成后，复制这里的路径，打开文件夹

[img]https://img2.imgtp.com/2024/04/30/mlpCXrsK.png[/img]


然后把刚刚手动下载好的模型 拖进去

[img]https://img2.imgtp.com/2024/04/30/qpvrdk6x.png[/img]






然后点击刷新，再点击左边的选择模型 就有了

[img]https://img2.imgtp.com/2024/04/30/kSxWaA6h.png[/img]




[b][size=5]第三步[/size][/b]

关闭刚刚的模型下载，让他后台自动下载，我们点击右上角的设置



[img]https://img2.imgtp.com/2024/04/30/jYIvYmQT.png[/img]




点击左边第二个选项

device 这里如果你的电脑有显卡，一定要选择对应的显卡，这样运行速度会快很多！！！



[img]https://img2.imgtp.com/2024/04/30/kDubu6do.png[/img]




第四步 运行

如果想让模型用中文回复，第一句话要输入：你好请用中文回复


[img]https://img2.imgtp.com/2024/04/30/F2eOdfvP.png[/img]




接下来就可以随意使用啦





[b][size=5]往期目录：[/size][/b]

[b][size=4]VAS视频生成字幕文件、字幕翻译、生肉片子加字幕教程，小白软件谁都能学会！
[bbs]thread-11904551-1-1.html[/bbs][/size][/b]

[[i] 本帖最后由 内力煮火锅 于 2024-4-30 19:34(GMT+8) 编辑 [/i]]

求魔法上网靠谱方法

老哥，现在还有靠谱的可以搞黄色的模型吗

需要什么配置呀

这个可以的，一直想研究本地部署，就是不会弄。楼主的教程图文并茂

可以呀，一直想本地部署一个私人的

大佬，gpu显存要多少才够啊

论坛的大牛或者论坛组织人力做个没有限制的聊天女友，就是付费也有钱途！怎么一直没人做这个工作

感谢楼主大神分享，部署好之后，有好用的公网IP服务吗，想远程连一下ssh

其实说真的，最近国内这个方面打的严，国外的又道德高，成气候的要不自我阉割，要不被喝茶，如果有人能在外面起一个ai宇宙那个水平的模型，搞个网站出来，这中间盈利空间是按百万起步的买卖，可惜又要大本钱，又要身在外，大部分人都是有心无力。

有趣,可以学习一下

有趣,值得好好学习一下

已下载完指定的模型，但放入文件夹之后，点击刷新并没有检测到模型，请问作者有没有解决方法？
已解决，重启一下程序就可以读取到模型了

[[i] 本帖最后由 shayilong 于 2024-5-7 14:25(GMT0) 编辑 [/i]]

安装失败，提示
无法下载存档https://gpt4aii.io/installer_repos/windows/repository/gpt4all/2.8.0lib.7z:连接关闭了

看着有点复杂，搞搞试试。果然有欲望才有学习的动力。

小白想问问，这个是干什么用的，本地AI吗？用来干啥的啊，哪位大佬科普下呗

似乎选项不一样，只有一个Llama 3 instruct，不知道是不是系统做了更改。

试过了，很多模型都是根据国外环境训练的，回答问题要么不着边际，要么一本正经的胡说八道，想让他干点活写点总结、心得之类的，输出结果也远远不如文心一言之类的国内大模型。至于搞黄色，还是别想了，跟你聊天的是个太监。

举个栗子，用爱马仕模型(Hermes)：
问：黄山有哪些著名景点
答：如果你想在黄山旅行时看到最有代表性和美丽的地方，那么我会推荐：
1. 黄山主峰：这是黄山最高的点，海拔1435米。从此处可以一览无遗的景色。
2. 九寨涧：这里有着美丽的水falls和石桥，也是黄山最为人知的地方之一。
3. 青龙洞：这个洞穴在黄山中最大和最长，可以看到各种奇怪的岩石形状。
4. 玉屏山：这里有着美丽的湖泊、水falls和森林，是一个完全的风景区。
5. 天门：这座古老的城墙可以远望黄山的奇怪形状，也是黄山最为人知的地方之一。

问题是这几个答案里，九寨涧查无此地，青龙洞在四川、天门好像全国哪里都有，拿着这个去旅行大概率要抓瞎。

总之就是没啥可用性，和陪神经病人聊天差不多。

[quote]原帖由 [i]smartter[/i] 于 2024-5-28 08:45 发表 [bbs=redirect.php?goto=findpost&pid=113780275&ptid=11917984][img]images/common/back.gif[/img][/bbs]
似乎选项不一样，只有一个Llama 3 instruct，不知道是不是系统做了更改。 [/quote]
要输入关键词搜素，从搜索的结果里找，默认的那些模型效果都不怎么样。

如果上传数据库，会怎么样，好像还是不能写色情小说