雨晴 LLM

雨晴LLM ，脱离云端网络，在手机硬件上运行开源大模型，问答、文案生成、代码推理全部本地完成，规避内容上传泄露风险。可导入模型文件，切换 CPU/GPU 加速，自定义温度、最大 token 等推理参数；本地开放 API 接口，支持第三方 AI 工具接入调用，局域网设备也可访问服务。内置实时性能监控，悬浮小窗快捷启停服务，后台稳定驻留，帮助玩家与开发者在手机上搭建属于自己的离线 AI 中枢。

一、雨晴LLM怎么使用

1、安装 APK，授予存储、后台悬浮窗、后台运行权限;

2、进入模型管理页面，下载对应 Gemma量化模型文件;

3、选择 CPU/GPU推理后端，启动本地 API服务;

4、使用任意兼容 OpenAI API的客户端，填写本地地址 `http://127.0.0.1:8080`即可调用;

5、悬浮窗可随时查看生成进度、切换模型、关闭服务。

二、用了一阵子，说说真实感受

1.对话很自然流畅，完全不像在跟机器人说话，能理解上下文，聊了十几轮还记得前面说过什么，不会每次都要重新解释一遍。

2.回答速度够快，问完问题基本几秒钟就开始回复了，不用等半天。回答的逻辑也很清楚，信息类的问题能给出结构化的内容。

3.没有使用限制，想聊多久聊多久，问多少问题都行，不像有些AI软件免费版还有次数限制。

三、雨晴LLM到底能做什么？

作为一款基于大语言模型的AI聊天助手，雨晴LLM的核心能力覆盖了日常使用的多个场景。

信息查询与问答方面，可以回答各类知识性问题，帮助快速获取信息，也可以进行常识查询、科普解释、概念讲解等。创意写作辅助方面，可以帮助撰写文案、邮件、文章等文字内容，也可以在写作卡壳时提供灵感和思路。日常对话陪伴方面，在无聊或需要陪伴的时候可以随时聊天，也可以倾诉情绪、获得回应。学习辅导方面，可以作为学习过程中的辅助工具，解答疑问、解释难点。整体来说，它是一款功能全面且易于使用的AI助手。

四、雨晴LLM和其他AI聊天工具比，好在哪里？

AI聊天工具有很多种，我给大家对比一下雨晴LLM和同类产品的区别：

五、实际体验下来，它到底好不好用？

雨晴LLM在日常对话和信息查询场景下表现不错，回答的逻辑清晰度和口语化程度都比较自然。上下文理解能力是它的一个亮点，聊天过程中能保持话题的连贯性，不会出现答非所问或者忘记前文的情况。对于需要快速获取信息、辅助写作或者只是想找个人聊聊天的情况，它都能提供一个即时响应的途径。

六、雨晴LLM使用小贴士

1.安装时如遇“未知来源”提示，请先在手机设置中开启允许安装未知应用的权限，否则无法安装。

2.提问时尽量清晰具体，越具体的提问往往能得到越精准的回答。

3.网络连接对AI对话很重要，建议在wifi或稳定的移动网络下使用。

4.AI的回答仅供参考，涉及专业领域判断或重要决策时，请以专业人士意见为准。

5.可以尝试多轮对话来深入话题，连续提问能让回答更有针对性。

雨晴 LLM更新日志

v1.0.0版本

优化本地数据读取速度打开内容无长时间加载

新增定时自动备份本地数据避免内容丢失

优化云端同步传输速率弱网络同步更稳定