您的位置：首页 → 安卓游戏 → 精品软件 → MNN Chat大模型【更新】安卓直装版
MNN Chat大模型【03.31更新】是依托阿里巴巴开源的MNN（Mobile Neural Network）引擎打造的端智能聊天应用，兼容多种主流深度学习模型格式，凭借深度优化的计算内核完成跨平台模型推理，具备低门槛、高性能、轻量化的特性。这款由阿里巴巴淘系技术团队开发的大模型，本质上是高效且轻量的深度学习推理框架，已整合千问、百川、LLAMA等主流大语言模型，专门面向移动端与嵌入式设备设计；借助MNN的图像预处理及推理功能，用户上传图片后，就能与AI展开基于图片内容的对话。
多模态大语言模型支持：这类模型通过MNN转换工具优化后，可部署至Android设备；MNN框架能支持Transformer等复杂网络结构，保障模型在移动端的推理表现。
多输入处理方面，该系统可支持文本、图像等多模态输入，并且在中低端设备上也能达成秒级响应。像在ARM v8.2设备上，借助FP16计算与Winograd算法，推理速度得到了明显的提升。
本地推理：核心亮点是本地推理能力，无需依赖云端服务器即可运行强大的 AI 模型。
模型选择：用户可在设置中选择不同的模型，如中文千问或英文 LLAMA，以满足多样化需求。
聊天历史管理：用户可通过侧边栏访问聊天历史，轻松查看和管理之前的对话记录。
1、核心处理能力（包含模型推理，支持CPU与GPU兼容）达成自主可控，代码架构简洁高效，非常适合部署在移动设备及各类嵌入式场景中。
2、接入应用后，会额外增加约2MB的可执行文件体积；若依据需求对核心功能进行精简，静态库大小可压缩至6.1MB，此时相应增加的可执行文件大小仅为600KB。
3、针对Android平台，其核心功能以armv7a架构的c++_shared动态库形式提供，体积约为800KB左右。
4、软件内嵌Mini编辑模式，可进一步压缩软件包大小，相比基础库，体积减少约25%。
5、该软件还配备了模型精简与量化技术，可支持FP16/Int8格式，能够有效缩减模型体积，缩减幅度最高可达50%到75%。
轻量化：APK 体积小，核心引擎仅 800KB 左右，占用存储空间少，后对设备性能影响小。
功能丰富：支持文本和图像输入，相比单一文本聊天应用，功能更加丰富，用户体验更佳。
灵活性高：基于开源的 MNN 框架，开发者可根据需求定制模型或功能，具有极高的灵活性。
1、全面适配多种模型与多模态任务，同时对CPU推理效率进行了深度优化，切实保障用户数据的安全与隐私权益。
2、模型和推理引擎被打包到 APK 中，用户无需联网就能使用，既提升了响应速度，又增强了数据隐私性。
3、算子库资源十分丰富，涵盖了178个Tensorflow算子、52个Caffe算子、163个TorchScript算子，同时还全面支持158个ONNX算子。
查看
查看
查看
角色扮演 115.7MB
角色扮演 156.5MB
角色扮演 167.0MB