当AI“住进”终端，端侧智能如何让机器更懂人？lg...

近日，一场以“端侧觉醒，AI的下一场突围？”为主题的深度对话在新网银行和清华大学经济管理学院直播间同步呈现。清华大学经济管理学院中国金融研究中心副主任黄张凯对话面壁智能联合创始人&CEO李大海，共同讨论端侧智能“以小博大”，以及端侧智能背后的技术突破与系统级创新，探索“小模型”如何重塑产业未来。

从云端到终端：以端侧智能重构AI应用新范式

在《圣经》中曾经记载过这样一个故事，勇敢的大卫拒绝身穿铠甲去战斗，而是准备光滑的石子，并带着投石器和去迎战巨人歌利亚。结局是“大卫冲向歌利亚，用投石器迅速地甩出一颗石子，击中歌利亚的额头，这巨人就倒在地上。”

在AI浪潮中，AI模型已经不再“以大为美”。随着AI技术的进步，用户对各类AI的依赖性与日俱增。但在各类AI模型渗透进用户的生活、学习和工作时，AI的一些痼疾也逐渐展露出来：隐私泄露、断网秒变“人工智障”，这些仿佛成了云端AI难以逾越的障碍。正因如此，人们对AI的需求也日渐多元化。隐私保护、离线使用的需求痛点一直亟待得到真正的满足。

如果将AI从互联网的“牢笼”里解救出来呢？这或许是一条未曾设想的道路，但面壁智能这家公司正走在这条名为“端侧智能”的道路上。有关这个名词，李大海解释，“关于端侧智能，简单来说就是把智能推理的能力做到了终端上，利用终端本地的算力，在不需要依赖于网络的情况下，实现本地的智能推理。”

李大海认为端侧智能目前有三大优势，这些优势有如大卫用于对抗歌利亚的石子一样，能够直击用户痛点：首先是隐私保护，智能推理仅发生在本地终端，从根源上杜绝了用户隐私泄露的风险。其次则是对安全、快速响应、可靠性要求较高的场景比较友好，例如汽车驾驶领域。此外，在高带宽场景下，运用本地推理的端侧智能比使用云端的经济成本要低很多。

因此，端侧智能的发展有着广阔的前景，这也正是面壁智能目前发力的重点。之所以选择走这条路，是因为2023年面壁智能在进行战略聚焦时，发现自己最大的优势就是能够做出知识密度很高的模型，足以做到以小博大。

面壁智能目前一直在做的端侧模型MiniCPM系列模型，有一个很形象的称呼叫面壁小钢炮，寓意着“以小博大”的个性。据李大海介绍，6月份刚刚发布的MiniCPM 4-8B在以仅22%的训练开销的前提下，整体水平上可以对标Qwen3，甚至超越模型参数更大的Gemma-3-12B，因此这个版本的小钢炮也被借用科幻小说《三体》里的说法被称为“前进四”。

长文本内容的推理速度提升一向是面壁智能的优势，而且在同行们动辄用20T、30T高质量数据训练出模型的时候，面壁智能经常只用不到10T的数据就能训练出非常好的模型。在如此强大的模型能力加持下，端侧智能的应用场景将变得无比宽广，也可以让AI进行更好的个性化服务提供赋能。李大海介绍道。

从“迁就”到“同频”：端侧智能如何让AI更懂用户？

“过去整个计算机发展的历史是从人去迁就计算机，逐步地变成计算机来迁就人。”李大海如此评价AI时代中，人与计算机的关系。在AI更大渗透入人类世界的今天，更加人性化的AI已经日渐成为AI行业未来发展的新方向。关于这个方向，面壁智能有着丰富的经验。

在上下文连接的基础上，AI模型形成记忆，构建了记忆后的机器才会更像人、更懂人。在这个观念的引导下，面壁智能在端侧智能的领域不断深入探索：“在本地要能去感知世界，能去跟世界互动，基于超长的记忆去感知去做决策。”李大海认为端侧智能的优势正是于此。

在他看来，未来类似于机器人和机器狗一类的产品会同时具备云端和端侧两类分工，而不会在失去网络连接时变成一个完全不能动的产品。

在应用场景层面，端侧智能可以为汽车的智能座舱进行赋能：“能够通过舱内舱外的摄像头去感知环境的变化，基于环境变化去给用户第一时间的关怀跟呵护。”端侧智能可以在对车内车外情况进行感知，再进行进一步分析。例如智能座舱可识别夏天被遗落在车内的儿童，并做到及时提醒和预警，有效预防悲剧的发生。如今，面壁科技正在与国内头部车企公司进行紧密合作。

同时，因为端侧智能的离线属性，可以做到Always On（总是开启），因此可以获得更多的隐私密度。换言之，在隐私层面的信息处理时，既可以让用户免受隐私信息泄露的困扰，也可在保证隐私的基础上更加了解用户的数据，让AI和用户同频，做到让机器比用户更懂用户，甚至在满足用户的实用需求以外，可以更加注重情绪价值。

未来的AI行业格局会走向何方？

当科技企业寻求融资时，投资人们最爱问的一个问题就是：“你觉得未来大模型的格局会是怎样？”面对这个问题，李大海给出的回复是3+X。3指的是未来会有三家以大模型本身为商业模式的龙头企业，他们会在未来转化为云企业。X指的是未来会有X家将大模型与行业深度融合的垂直领域企业，通过高知识密度模型，在如汽车、手机、电脑、具身智能、教育等端侧场景中提供更加智能、便捷、个性化服务。

例如，去年面壁智能与国内顶尖高校合作研发了学生AI成长助手以及AI智能课堂等产品，为学生配备具有智能问答、智能伴学功能的专属智能助手以及全面智能化、个性化AI课堂，有效助力学生成长与生活。同样，在金融领域的背调等环节，AI也已经有了比较多的应用场景。

在展望前景时，李大海认为日新月异的社会更需要两种能力，第一种能力是构建事业的基础能力，如逻辑思维能力、亲和力、团队凝聚力等。第二种能力是人文关怀，李大海认为，在科学飞速发展的时刻，科学技术越会向人文思潮靠近。“虽然未来的科技会越来越强，但我们仍然需要多姿多彩的人文去丰富我们的精神世界。”

新网银行最新打造的“AI构造力”直播栏目，紧跟国家科技创新战略，聚焦AI领域技术突破与创新应用，解读AI大模型如何重构金融及行业生态。通过直播访谈、线下交流、内容联动等形式，搭建银行科技、AI公司创始人、高校教授与财经媒体人之间的交流互动平台。