雨晴LLM
手机扫描二维码下载
- 软件介绍
- 应用信息
- 猜你喜欢
雨晴LLM App是一款面向移动端技术爱好者的本地离线大模型推理工具，专为安卓设备打造，支持运行Gemma系列开源大模型，从底层实现数据完全本地闭环，彻底规避云端大模型的信息泄露风险。
软件具备极强的生态兼容性，可直接对接ChatBox、Open WebUI等主流第三方AI客户端，无需复杂的代码修改即可快速完成接入。用户仅需在联网状态下自行下载或导入对应规格的模型文件，后续全程离线即可运行已导入的大模型，所有对话与生成数据完全保存在本地，不会上传至任何外部服务器，从根源上保障用户的隐私与数据安全
软件内容
支持 CPU、GPU两种推理后端自由切换，可根据手机硬件配置、功耗需求自主选择，兼顾老旧设备兼容性与高性能机型加速推理的使用场景。
内置 NanoHTTPd网络服务，在本机开放兼容 OpenAI规范的 API端点，各类聊天前端、自动化工具、脚本程序均可直接接入，轻松对接成熟的 AI软件生态。
配备实时统计仪表板，可视化展示推理速度、内存占用、负载状态等运行数据，方便用户监控模型运行状态，及时调整参数优化推理表现。
雨晴LLM怎么使用
打开雨晴LLM软件，在主控台界面，点击去授权，授予存储、后台悬浮窗、后台运行权限
点击最下方的模型界面
点击任意Gemma大模型，等待下载完成即可(也可以点击右上角的导入模型，选择本地已有的大模型文件，然后等待上传成功即可使用)
点击右下角设置，填写端口、完成模型相关设置，即可启动本地API服务
应用亮点
提供基础推理参数自定义选项，可调整温度、上下文长度、最大生成长度等配置，适配创意写作、逻辑推理、代码生成等不同任务需求。
优化移动端资源调度策略，后台推理时管控功耗与内存占用，减少长时间运行出现卡顿、闪退问题，延长离线推理任务持续运行时长。
支持多客户端同时接入本地 API服务，局域网内其他设备也可访问推理接口，实现手机作为家庭离线 AI中枢，供多终端调用大模型能力。
雨晴LLM常见问题答疑
雨晴LLM是免费的吗
软件本体完全免费开源
运行雨晴LLM需要什么手机配置
建议内存 8GB 以上，预留足够存储空间存放模型
雨晴LLM自带大模型文件吗
不含模型，需要用户自行下载导入
启动API服务后连接失败怎么办
确认地址端口正确，存储、后台悬浮窗、后台运行权限等权限全部授予
可以同时运行多个大模型吗
不可以，同一时间仅能加载一个模型
一部手机办事通 3.1.4 官方版
taptap 2.96.8 安卓版
八位元画家 1.26.1 安卓版
你搜 1.2.5 安卓版
挽清直装 1.0 安卓版
fadcam 2.0.0 安卓版
小米应用商店 4.98.1 安卓正版
vivo万能查看器 v1.0.3.1 安卓版
vx 8.0.76 官方版
短信转发器 3.3.2.240815 安卓版
手机散热器 4.6.8 安卓版
wwtalk 3.6.5 手机版
typetype
猪猪软件库
黑白软件库
易控车机版
光圈养号
原子加速器
深圳代购帮
ISO制作器
德尔塔面具
