mnn chat中文版

MNN Chat 安卓版是基于阿里巴巴开源MNN引擎打造的全功能多模态端侧AI应用，体验对标Google AI Edge Gallery，完全免费开源无广告无内购。所有AI运算100%在手机本地CPU/GPU完成，全程无需联网，对话、图文生成、语音交互、代码编写等所有功能均不向外部服务器上传任何数据，从根源保障用户隐私安全。

软件特色

【多模态支持】

提供多种任务功能，包括文本生成文本、图像生成文本、音频转文本及文本生成图像（基于扩散模型）。

【CPU推理优化】

在安卓平台上，MNN-LLM展现了卓越的CPU性能，预填充速度相较于llama.cpp提高了8.6倍，相较于fastllm提升了20.5倍，解码速度分别快了2.3倍和8.9倍。下图为 llama.cpp 与 MNN-LLM 的比较。

【广泛的模型兼容性】

支持多种领先的模型提供商，包括Qwen、Gemma、Llama（涵盖TinyLlama与MobileLLM）、Baichuan、Yi、DeepSeek、InternLM、Phi、ReaderLM和Smolm。

【本地运行】

完全在设备本地运行，确保数据隐私，无需将信息上传至外部服务器。

MNN Chat app使用简介

1、本站免费下载安装应用后，您可以在模型市场界面中浏览所有支持的模型

2、然后选择你需要的ai大模型下载

3、下载好后就可以直接在应用内与模型交互

4、此外，您可以通过侧边栏访问聊天历史，轻松查看和管理之前的对话记录

应用场景

1、全能创作官：

它不只是陪你聊天，更是你的全职文案加程序员。无论是写复杂的学术论文、策划活动方案，还是直接在手机上帮你写出一段能运行的代码，它都能手到擒来。

2、随身多媒体工作室：

它是你的全能绘图师与视频帮手。你可以一句话让它生成精美的画作，或者让它看懂一段视频并帮你总结核心内容、提取文案，甚至辅助你完成视频剪辑思路，实现从文字到图文、再到视频的跨维度创作。

3、真正的“智慧大脑”：

相比其他单一功能的 App，它更像是一个超级枢纽。它能同时理解图片、声音和视频，你可以拍一张复杂的流程图让它转化成代码，或者录一段会议音频让它直接生成带配图的PPT大纲。

4、不插线的“工作站”：

最关键的是，这些高强度的创作任务（画图、分析视频、写程序）全是在你手机本地完成的。这意味着你拥有了一个不费流量、不收月费、响应极快的高性能 AI 工作站，随时随地开启生产力。

更新日志

v0.8.2.2版本

1、更新亮点：

刷新内置 MNN runtime，带入最新的 CPU LinearAttention 与 Arm82 fp16 优化路径。

提升思考模式提示词和数组拼接场景下的 tokenizer 与模板渲染兼容性。

为 OpenCL 和 Metal 执行路径补充 TopKV2 后端支持。

2、问题修复：

修复 Android 点击 Add Local Model 时的崩溃问题。

避免模型加载时因 mmap 权重部分初始化而导致的死锁问题。

对同模型启动 API 服务时复用已加载 runtime session，避免额外重载导致的卡死或崩溃。