它是在华为盘古L0基座大模型的基础上，融入大量场景数据，对模型进行精调，最后炼成的一个L1层对话模型。

　　能搞定文本生成、知识查找、资料总结、智能编排、模糊/复杂意图理解等任务。

　　具体能力提升包括更自然语言对话、玩机知识问答、查找生活服务、对话识别屏幕内容、生成摘要文案图片等。

　　同时小艺也具备多模态能力，能理解图像内容。这样原本需要用户自己看完再手动操作的步骤，也能交给小艺了。

　　或者是把邀请函中的联系信息保存，可以看到它能够很好理解图像中的文本信息。

　　更进一步，现在还能通过小艺进行复杂任务编排，不用咱们自己手动反复设置了。

　　帮我创建晨跑场景。每周一到周五早上6点半为我播报当天天气。当我戴上蓝牙耳机的时候，就播放收藏的歌曲，并把手机设为静音模式。

　　小艺能够听懂这一长串要求，再去调用不同功能。并且可以基于手机状态（是否连接蓝牙耳机），来自行判断是否要执行某些操作。

　　过几天就要约David见面聊项目了，结合上次会议记的信息，写一份英文会议预约邮件。

　　此外小艺建议如今也可以感知到更多用户的高频场景，能主动提供一站式的智慧组合建议，省去很多自己手动查找的过程。

　　比如在出境旅游的场景下，出发前小艺能实时提醒最新汇率、兑换外币、帮助用户即时获取目的地游玩攻略；到达目的地后，还能提醒行李转盘信息、一键开启境外流量、快速获取实时翻译工具等。

　　据介绍，全新小艺智慧场景增加3倍，POI数量提升了7倍，能够覆盖核心餐饮购物门店、商圈、机场高铁站等场景。

　　总结来看，全新小艺不仅获得了最新的AIGC能力，还改善了手机语音助手过去经常被诟病的一些短板。

　　其中L0层基础大模型最大版本包含1000亿参数，预训练使用了超3万亿tokens。

　　小艺正是在华为盘古L0基座大模型的基础上，针对终端消费者场景构建了大量的场景数据，并对模型进行精调，最后炼成的L1层对话模型。

　　在精调中，小艺加入了覆盖终端消费者的主流数据类型，如对话、旅游攻略、设备操控、吃穿住行等。

　　这能很好覆盖普通用户日常对话的知识范围，并且可以增强模型对话过程中的事实性、实时性以及安全合规等。

　　部署方面，华为正在不断增强大模型端云协同的能力，端侧大模型可以先对用户请求和上下文信息做一层预处理，再将预处理后的request请求到云侧。

　　这样做的好处是，既能发挥端侧模型响应快的优势，又能通过云端模型来提升问答和响应质量，同时也能更进一步保护用户隐私数据。

　　而在降低推理时延上，华为小艺做了系统性工程优化，包含从底层芯片、推理框架、模型算子、输入输出长度等全链路。

　　通过对各个模块时延进行拆解，研发团队明确了各部分优化目标，利用算子融合、显存优化、pipeline优化等方式降低时延。

　　在这方面，华为针对不同场景的prompt和输出格式做了逐字分析和压缩，最终实现推理时延减半。

　　从整体技术架构来看，华为小艺和大模型的融合，不是简单对聊天、AIGC、回复等任务进行增强，而是以大模型为核心，进行了系统级增强。

　　其底层逻辑是：将用户的任务分配给合适的系统，各个系统各司其职，同时在复杂场景上增强体验。

　　第一步，接收用户问题，基于上下文理解/小艺记忆的能力，分析问题该如何处理。

　　如果用户发起的请求涉及到元服务，比如他询问附近有哪些可以聚会的餐厅，这就涉及到了美食APP服务的调用，系统需要API生成，最后由服务方基于推荐机制给出响应。

　　如果用户询问的是知识问题，比如问盘古大模型有多少参数。这时系统会调用搜索引擎、对应领域知识、向量知识进行查询，然后融合生成答案。

　　除此之外，小艺在细节上也做了更进一步的把控，进行了一系列底层开发，以确保问答、执行任务的效果。

　　小艺从2017年起在HarmonyOS上线后，对普通用户的对话习惯已经有了一定积累。在此之上，华为又构建了大量不同类型表达的语料库，尽可能覆盖更多文字和口语表达，让大模型在预训练阶段中就能精通各种表达。

　　这不仅能评测现有开放大模型能力，也能基于评测结果指导小艺在数据和能力上的构建。

　　设备控制需要大模型生成长达数百个token的复杂格式文本，其中不能出现任何格式错误，否则中控系统将无法解析和对接。

　　为了让大模型能达到如此生成标准，华为一方面用prompt摸清楚大模型的“脾气”，同时加强大模型的代码能力，进而增强模型的格式遵从能力，最终实现了格式几乎百分百遵从。

　　而针对复杂场景，小艺的方式是先利用大模型能力充分学习和理解工具场景，再进行推理。

　　加之原生HarmonyOS也使得优化现有API成为可能，通过这种反向适配，也能更好发挥大模型特长。

　　在底层基础研发的积累和攻关必不可少，不过还有一点值得关注

　　华为选择了从实际场景做切入，来确定该如何让大模型和智慧助手乃至整个操作系统做结合。

　　比如有人习惯上下班开车路上获取新闻，对于太长资讯只能看不方便听，所以在华为小艺中出现了资讯总结的功能。

　　还有人发现自己在写购物评论、生日祝福的时候总是词穷，所以华为小艺提供了文案生成功能。

　　从诞生起，HarmonyOS便没有局限于手机端，而是面向多种终端、全场景。

　　华为小艺现在也已部署在了1+8设备上，未来将结合全场景设备的业务形态，逐步把拥有大模型能力的小艺部署到消费者全场景体验之上。

　　而小艺作为一个AI驱动的智慧助手，从诞生起也在不断集成各种AI能力，如AI字幕、小艺朗读等。其背后研发团队，也始终关注AI与智慧助手的更多可能。

　　据透露，去年团队便留意到百亿规模的预训练模型结合prompt提示技术，已经可以带来非常不错的文本理解和生成能力了，并能在闲聊、问答、任务式对话上有应用。

　　随着最新一轮AI趋势爆发，RLHF给大模型带来显著提升，产业落地的大门正式开启。

　　今年生成式AI趋势发生以来，诸多应用都选择接入大模型能力、内置智慧助手。

　　但华为作为全球最懂操作系统的厂商之一，选择从更底层切入，用大模型来重塑OS。

　　这不仅需要足够坚实的模型底座，还需要进行系统级的融合优化，同时也对场景理解、用户需求感知提出要求。

　　对应来看：华为是最早具有大模型能力的国内厂商之一；构建全栈AI开发能力；HarmonyOS覆盖7亿+设备

　　由此，也就不难理解为什么华为小艺会快速接入大模型能力，让HarmonyOS 4成为如今首个全面接入大模型的操作系统。

　　而作为全球最受关注的操作系统之一，HarmonyOS率先拥抱大模型，或许也会开启一种新范式，让人人打开手机就能体验大模型能力，不再局限于想象之中。

　　全新小艺将在今年8月底开放邀请测试，并于晚些时候在搭载HarmonyOS 4.0及以上的部分机型通过OTA升级体验，具体升级计划稍晚公布。