您的位置:首页 → 安卓游戏 → 精品软件 → MNN Chat大模型【更新】

MNN Chat大模型免费版【03.31更新】是依托阿里巴巴开源的MNN(Mobile Neural Network)引擎打造的安卓端智能聊天应用,兼容多种主流深度学习模型格式,凭借深度优化的计算内核完成跨平台模型推理,具备低使用门槛、出色性能表现与轻量化的特性。阿里巴巴MNN Chat大模型最新版本由阿里巴巴淘系技术团队研发,作为高效且轻量的深度学习推理框架,它整合了千问、百川、LLAMA等主流大语言模型,专门面向移动端与嵌入式设备设计;借助MNN的图像预处理及推理功能,用户上传图片后,就能与AI展开基于图片内容的对话。
MNN 框架对多模态大语言模型(LLM)提供支持:相关模型通过 MNN 的转换工具完成优化后,可部署至 Android 设备运行;该框架能够兼容 Transformer 这类复杂的网络结构,从而保障模型在移动端设备上具备良好的推理性能。
多输入处理能力:可兼容文本与图像等多模态输入形式。即便在中低端设备上,也能达成秒级响应效果——像在ARM v8.2设备中,借助FP16计算和Winograd算法,推理速度得到了明显的提升。
本地推理:核心亮点是本地推理能力,无需依赖云端服务器即可运行强大的 AI 模型。
模型选择:用户可在设置中选择不同的模型,如中文千问或英文 LLAMA,以满足多样化需求。
聊天历史管理:用户可通过侧边栏访问聊天历史,轻松查看和管理之前的对话记录。
1、核心处理能力(包含模型推理,支持CPU与GPU适配)达成自主可控,代码架构简洁高效,非常适合部署在移动设备及各类嵌入式场景中。
2、集成应用后,会额外增加约2MB的可执行文件体积;若依据需求精简核心功能,静态库大小可压缩到6.1MB,相应增加的可执行文件大小仅为600KB。
3、在Android平台上,核心功能是以armv7a架构的c++_shared动态库形式来呈现的,其体积大约控制在800KB上下。
4、软件内嵌Mini编辑模式,可进一步压缩软件包大小,相比基础库,体积减少约25%。
5、该软件还配备了模型精简与量化技术,可支持FP16/Int8格式,能够大幅压缩模型体积,压缩比例最高可达50%到75%。
轻量化:APK 体积小,核心引擎仅 800KB 左右,占用存储空间少,安装后对设备性能影响小。
功能丰富:支持文本和图像输入,相比单一文本聊天应用,功能更加丰富,用户体验更佳。
灵活性高:基于开源的 MNN 框架,开发者可根据需求定制模型或功能,具有极高的灵活性。
1、全方位兼容各类模型与多模态任务,同时针对CPU推理效率进行了深度优化,切实维护了用户数据的安全与隐私权益。
2、模型和推理引擎被打包到 APK 中,用户无需联网就能使用,既提升了响应速度,又增强了数据隐私性。
3、算子库资源丰富,涵盖178个Tensorflow算子、52个Caffe算子、163个TorchScript算子,同时全面支持158个ONNX算子。




查看
查看
查看
角色扮演 115.7MB
角色扮演 156.5MB
角色扮演 167.0MB