主要观点总结
本文围绕今年WWDC大会上苹果发布的AI技术展开，提到虽然苹果没有带来激动人心的大招，但小招以及AI在手机的每个角落的融入展示了AI的趋势。作者指出，真正与我们生活相关的硬件，如手机、汽车和未来的具身智能设备，都需要一个更强大的端侧模型。国内面壁智能公司主攻这个方向，其MiniCPM 4.0模型在速度、精度和资源占用等关键指标上表现优秀，已经成为新一代端侧基础模型的标杆。作者详细描述了MiniCPM 4.0模型的优势，如长文本能力、推理速度、资源占用、量化等方面的突破，以及其在不同设备上的应用前景。最后，作者认为端侧智能的价值不仅在于发布会上展示的技术，更在于它在实际生活中的运用和变革。
关键观点总结
关键观点1: 苹果在今年的WWDC上展示了AI在手机的融入趋势，虽然未有震撼的大招，但小招也展示了AI发展的方向。
苹果展示的技术趋势是AI在手机的广泛应用，这反映了AI技术不断融入我们生活的趋势。
关键观点2: 面壁智能公司专注于端侧模型的研究，其MiniCPM 4.0模型表现出色。
面壁智能的MiniCPM 4.0模型在速度、精度和资源占用等方面都有出色的表现，成为新一代端侧基础模型的标杆。
关键观点3: MiniCPM 4.0模型具备长文本能力、快速推理、资源占用优化等关键突破。
MiniCPM 4.0模型能在终端设备上完成长文本处理和推理，优化资源占用，提高推理速度，降低了AI的落地门槛。
关键观点4: 端侧智能的价值不仅在于技术展示，更在于它在实际生活中的应用和变革。
端侧智能将在手机、汽车、家居等领域带来实质性的改变，提高设备的智能能力，让AI真正走进我们的日常生活。
正文
所以，这两年，端侧模型现在也已经成为了行业共识，后面会越来越重要。
刚好前几天，壁智能又放出了 MiniCPM 4.0 这个新版本，感觉他们是真的在把端侧模型往前推。
开源的有两个版本：一个是 8B 参数的稀疏闪电版，主打长文本和高效推理，速度和内存占用都比之前的同类模型有了明显提升；另一个是 0.5B 的小模型，轻量得可以直接跑在 1G 以上的的终端设备上，推理速度也很快。
MiniCPM 4.0 最大的突破，是在端侧长文本能力上迈出了关键一步。
过去提到端侧大模型，大家基本的预期只是“能跑起来就不错了”，更别说处理长文本或者复杂推理。毕竟端侧设备的硬件资源有限，远不能和云端那样堆 GPU。包括我看 WWDC 上苹果的端侧模型，居然都没有推理和长文本能力。
其实对整个行业来说，这算是打开了新的可能性。以前很多只能靠云端大模型完成的任务，现在本地设备也能慢慢胜任了。无论是手机上的助手，还是车机、家居里的本地 AI，端侧模型的用武之地会越来越多。
MiniCPM 4.0 在速度、精度和资源占用这些关键指标上表现都很亮眼，显然它已经成为新一代端侧基础模型里的标杆型选手了。
并且，MiniCPM 4.0 是完全开源的。8B 和 0.5B 两个版本都同时开源了模型、训练算子、推理算子，还有高质量的预训练数据。下面是我从面壁官网找到的一份测评数据，我们可以看到，无论是 0.5B，还是 8B 的版本，他们都在同级别模型中实现了最强的性能表现。
