应用简介
PocketPal AI一款移动端AI语言模型平台软件,让您轻松在手机上部署和运行各类大语言模型。作为支持中文的"模型百宝箱",软件内置丰富预装模型,同时支持本地模型导入和镜像站资源下载,打造专属AI聊天系统。随时享受个性化AI交互体验,堪称移动端最便捷的AI解决方案!
这款「PocketPal AI」应用提供了安卓和 iOS 版本,这里以安卓版为使用介绍,安卓端通过 MLC-LLM 等框架优化 GPU 资源调用,提升推理速度。
1、安装好后,需要先下载模型,点击 + 添加模型,支持在线下载模型,从 Add from Hugging Face 进行下载。
2、搜索关键词 DeepSeek,选择你需要的模型进行下载。手机端部署,建议选择 1.5B 或者 7B。
3、等待模型下载完毕后,在模型管理里面,点击 Load 启动。然后就可以使用离线版本 DeepSeek 了。
4、聊天生成设置功能方面,可以对上下文设置,用户可设置生成内容的最大长度,默认建议调整为 4096 或 8000,支持选择不同预置模板,实时性能指标等。
如果网络问题下载不了DeepSeek模型,那么也可以通过本地加载 GGUF 格式模型。点击 + 本地加载模型(Add Local Model)- 载入你下载好的模型 - 模型管理 - 点击 Load 启动。
DeepSeek模型下载:
模型库:
1、内置多种模型:内置了很多AI语言模型,用户可以直接下载使用。
2、添加本地模型:支持添加本地模型,满足个性化需求。
3、镜像站搜索下载:前往镜像站搜索下载用户想要的模型,方便快捷。
4、无需互联网连接:在手机上直接与高级人工智能模型交互,无需互联网连接,确保数据安全。
1、本地处理对话:所有对话均在本地处理,提供安全性和安心。
2、性能基准测试:在手机上对模型性能进行基准测试,方便用户了解和优化。
3、社区分享:与社区分享模型性能测试结果,与其他用户交流经验。
4、科学工具支持:需要科学工具支持,确保软件运行流畅和稳定。
需要网络免费无需谷歌市场
应用信息