配资炒股行情 大模型应用驶入“深水区” ,边缘AI或是最优解?


发布日期:2024-09-13 08:25    点击次数:53

“狂飙”400多天后,大模型全面进入落地应用的阶段。在算力、能源、数据的多重限制下,大模型如何赋能千行百业配资炒股行情,是AI企业共同面临的考验。此次2024年世界人工智能大会期间,云天励飞展示了边缘AI的战略全貌。

当前,大模型训练、推理、调用、部署均在云端完成,这对算力(集群)规模、网络稳定性、能效等方面都提出了极高要求。但也意味着,生长在云端的“超级大模型”要落地千行百业,很贵也很难。

未来大模型要走到线下的物理世界,面对大量的突发状况,需要及时做出响应,就要求所有的分析处理都在本地完成。如自动驾驶汽车在行驶过程中遇到了形状奇特的障碍物,需要实时判断并做出减速或避让的动作;机器人在执行任务的过程中需要实时判断环境并作出反应。云端大模型虽然很强大,但是“远水救不了近火”,无法实时解决物理世界的各类问题。

云天励飞董事长兼CEO陈宁在演讲中提到,边缘AI的发展可以分为四个阶段。第一个阶段是在边缘设备上搭载小模型算法,让边缘设备具有处理简单任务的能力,比如在摄像头中加入车辆识别、人脸识别等算法。第二阶段是视觉语义大模型走向边缘,代表的产品有AI手机、AI PC等,这也是当前所处的阶段。第三阶段是端到端行为大模型走向边缘,在这一阶段,各类机器人、智能可穿戴设备将变得随处可见。第四阶段是通用人工智能时代,将进入万物皆智能的世界。

展望未来,边缘AI可以打造一个更加智能的物理世界:在个人领域,搭载了边缘AI的各种3C设备提供了让AI服务随手可得;在家庭领域,边缘AI让以自动驾驶、家庭服务机器人为代表的智能终端主动完成各项任务;在城市领域,边缘AI赋能下的千行百业实现无数场景的价值闭环。

陈宁介绍,基于当前边缘AI的发展趋势和多年的技术积累,云天励飞制定了“2+3+3”边缘AI的战略布局全景,即2个技术平台——多模态大模型、NPU加速计算平台;3类主营业务——智能硬件、智算运营、智慧行业;3个应用方向——个人Copilot、家庭Copilot、城市Copilot,助力边缘AI渗透至物理世界的各个角落。

大模型在边缘落地应用需要“修剪”,企业需要了解行业和具体场景的需求,才能更好地把握怎么修剪、修剪多少。在项目落地实践中,云天励飞发现场景的多样性将促使硬件功能和技术特征的分化。举例而言,如果将摄像头当做感知物理环境的眼睛,将扬声器当做沟通的嘴巴,将传感器当做感知温度、湿度的皮肤,将轮子或履带当做脚……这些功能模块随着技术的发展不断呈现新的面貌。

比如在电动车治理领域,过去相关部门查处电动车违规事件,没有数据依据,很多时候凭借经验开展查处行动。云天励飞尝试打造大模型赋能的数字人赋能决策治理:基于过往系统中沉淀的数据,大模型会告诉执法机构今天某时某地,有许多人骑行电动自行车未佩戴头盔,建议相关部门派出工作人员进行查处。

又比如云天励飞正在探索清洁机器人在公园中的全程无人化自动清洁:通过机器人的自主感知系统,和与固定点位感知设备的联动,自动识别垃圾并主动清扫,全程无需人工参与。

在不同场景下选择合适的功能模块组成的智能设备,将会呈现完全不同的形态。云天励飞通过植入搭载大模型的边缘AI芯片,这些智能设备将与物理世界产生全新交互,成为个人、家庭、城市三位一体的Copilot应用生态的承载体,也是边缘AI落地的最终形态。

南方+记者 郜小平