PocketPal v1.23.0 安卓本地离线大模型AI聊天APP

软件介绍

PocketPal是安卓端开源本地大模型AI聊天应用，基于llama.cpp与llama.rn构建，支持Gemma、Qwen、Bonsai、LFM3等GGUF格式开源大模型下载。模型下载完毕后可以完全离线运行AI对话，聊天数据全部保存在本机，不会上传服务器。软件分为聊天、模型、关于三大页面，可以下载、管理、删除模型文件，可自定义模型运行参数，还支持硬件性能基准测试，适合注重隐私、想要手机本地运行大模型的用户。

软件功能

1、离线AI对话：模型下载完成后无需网络，在本地完成大模型推理聊天。

2、模型库下载：内置Gemma 3、Bonsai、Qwen3、LFM3多款开源模型一键下载。

3、模型管理：下载、删除、调整模型参数，支持导入外部GGUF格式模型。

4、聊天会话：新建对话会话，文本交互问答、文案创作、内容咨询。

5、参数自定义：调整温度、上下文长度、系统提示词等模型推理参数。

6、硬件基准测试：测试手机硬件运行大模型的性能表现。

7、开源项目：开源项目，关于页面查看版本信息、GitHub项目入口。

8、页面分区：聊天页面进行问答交互，模型页管理下载模型，关于页查看项目信息。

软件特色

1、完全端侧离线推理，聊天数据不出本机，保护隐私，无云端数据上传。

2、支持多款主流开源GGUF大模型，一键下载，无需复杂配置。

3、基于llama.cpp推理引擎，适配移动端硬件，支持NNAPI硬件加速。

4、开源项目，代码公开可查阅，无后台遥测收集用户对话信息。

5、图形化操作界面，不用命令行，普通用户也可以在手机跑本地大模型。