type
status
date
slug
summary
tags
category
icon
password
写在前面
唠叨两句
近期,DeepSeek爆火之后,本地搭建大模型已经逐渐成为了趋势。这时Ollama,这款开源免费的软件,作为本地搭建大模型的平台,也逐渐被我等程序猿关注。我也本地安装了Ollama,运行了DeepSeek-r1,qwen等大模型。但是,应运而生的就是安全问题,Ollama提供了开放的api,访问11434的接口,就能访问到软件功能。这就导致,要是没有做防护,就跟“裸奔”一样了,在未授权情况下,某些心思不正常的人就能调用我们的私服大模型,甚至,会获取到我们上传到私服的数据,窃取知识库内的内容,再往里面投入点“粑粑”,甚至还可能通过我们没有发现的安全漏洞,最终控制整台服务器。
所以针对Ollama的安全配置,还是很重要的。(其实,据我研究,安装ollama的时候,默认设置的,就是本地访问,如你需要开外网访问,那就把下面的127.0.0.1改成0.0.0.0即可)
正文
方法一:系统防火墙级别
通过在服务器的防火墙上,增加ip白名单,限制访问的ip地址
方法二:系统配置环境参数
通过在系统中配置Ollama的参数,使系统只提供本地服务。
Windows
1.关闭ollama,如果还没启动,可跳过此步骤。先打开Windows进程,找到ollama的进程,结束进程
2.打开环境变量配置页面“右键我的(此)电脑-属性-高级系统设置-环境变量”
3.新增变量 “OLLAMA_HOST”,值为 “127.0.0.1:11434”,保存后重启ollama
Linux
如果你的ollama已经做成了服务,那么可以按照如下的方式进行处理
1.关闭ollama进行,如果还没启动,可跳过此步骤。执行一下命令即可。
2.编辑你的服务脚本(如果你的服务脚本不在此处,那换个地址)
在服务的配置文件([Service]下),增加一行
Mac
1.退出ollama
2.增加环境变量配置
3.重启ollama
建议方法
如需对外提供api服务,可以
建议1:修改config.yaml、settings.json配置文件限定可调用Ollama服务的IP地址(这俩配置文件,我在mac上是没有找到)
建议2:在防火墙等设备部署IP白名单,严格限定访问IP地址
建议3:通过反向代理实现身份验证和授权(如使用OAuth2.0协议),防止未经授权用户访问
- 作者:Doubletree
- 链接:https://blog.doubletree.fun/article/1a449e7a-9398-80ac-88a5-fdcc61af7e9e
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议,转载请注明出处。