资讯分类
全部资讯
最新活动
商城公告
行业信息
新品推荐
元器件知识
资讯标签
艾迈斯欧司朗(96) 英伟达NVIDIA(70) 艾为awinic(45) 飞腾派V3(37) 萤火工场(30) 罗彻斯特电子(28) Jetson Orin Nano SUPER 开发套件(21) 资料下载专区(18) 进迭时空(15) 兆易创新(14) 艾为 awinic(14) 赛昉科技(StarFive)(12) 灵动微电子(11) 日清纺微电子(9) 小华半导体(9) 上海雷卯Leiditech(8) 微源半导体 LPSemi(8) 赛昉科技(8) NVIDIA(8) Seeed矽递科技(8) GD32VW553-IOT(7) 物奇WuQi(7) 龙芯中科(7) 开源口碑分享(5) 日清纺微电子Nisshinbo(5) 庆科(5) TROQ创捷电子(4) Geehy极海半导体(4) 航顺芯片(4) CEM5826-M11(4) 飞腾派(4) 创捷电子(4) 罗彻斯特(3) 飞腾派eMMC(3) iCEasy商城(3) MM32SPIN060G(3) 一件包邮专区(3) FTHR-G0001(3) Mini-SPIN0230(2) NVIDIA品牌专区(2) 口碑评测(2) 华润微电子(2) EVB-L0130(2) 教育优惠申请链接(2) 启明云端(2) 飞腾官网飞腾派(2) 弈安云(2) 飞腾派下载专区(2) 村田(2) 英伟达初创加速计划(2) 极海半导体(2) 小华EVB-HC32F4A0开发板(2) 极海(2) 中国星坤(2) 国产开源硬件(2) 野火(2) 杭晶(HCI)(2) JETSON_AGX_ORIN_64GB_DEVELOPER_KIT(1) QCS6490 SOM EVB开发板(1) 附件下载地址(1) 迈巨微(1) 华大北斗(1) GD32无线生态专区(1) QCS8550 SOM EVB开发板(1) 申请样片:高光效红光OSCONIQ® P 3030, GR QSSPA1.23(1) 台容积电(1) 雷克沙(1) GD32VW553-IOT V2版本(1) CEM5881-M11(1) NVIDIA Jetson Orin Nano 开发套件(1) 萤火工场品牌专区(1) 商城下载专区(1) GD32VW553-IOT V2(1) Jetson AGX Orin 64GB开发套件(1) 荣湃半导体(2Pai Semi)品牌专区(1) 进迭时空品牌页(1) 飞腾人才赋能(1) Arduino UNO Rev 4 Minima开发板(1) 下载专区(1) B站风扇视频(1) Jetson AGX Xavier(32GB)(1) BeagleBoard.org®(1) 社区评奖活动(1) CEM5861G-M11(1) 赛昉科技9折活动券(1) NVIDIA Jetson Orin Nano 开发套件(1) Arduino品牌专区(1) 国产自主可控(1) 英伟达 NVIDIA(1) 品牌清仓(1) QCS8550 SOM EVB(1) Jetson AGX Orin 64GB开发套件(1) 24GHz毫米波雷达模块(1) NVIDIA DGX™ Spark:桌面级AI超级计算机(1) NVIDIA Jetson Nano 模组(1) QCS6490 SOM EVB(1) 天微电子商家页(1) 国产毫米波雷达模块(1) 技术问答专区(1) 英特尔(1) CEK8902-S905D3(1) EV Board (MM32L0136C7P)(1) 迈巨微电子品牌专区(1) 飞腾派专链(1) 瑞隆源产品(1) 龙芯教育派(1) 竞买活动(1) 雷卯(1) 飞腾派试用申请链接(1) BeagleBone Black快速入门指南(1) 样片申请(1) NVIDIA NIM(1) 世野(Khadas)(1) 618大促(1) SFH 7018B(1) 极海半导体(Geehy)(1) Arduino品牌页(1) 飞腾派调研问卷链接(1) 微雪电子(1) 一件免邮专区(1) 艾为(AWINIC)(1) 英伟达 NVIDIA品牌专区(1) 小脚丫(1) 618大促专区(1) 8月7日竞拍竞买(1) 飞腾派V3版本上新(1) 飞虹半导体(1) MUSE Paper(1) VF202040-A0(1) 教育优惠(1) 萤火工场GD32VW553-IOT(1) 野火RK3566开发板(1) 乐动机器人(1) 海凌科电子(Hi-Link)(1) 格力新元(1) CEM5825F(1) COMBO模组 EMC3020-PZI5(1) 松科智能(1) 润石(1) Mini-F5333(1) 微源半导体(1) 周年抽奖活动(1) 庆科信息(MXCHIP)品牌专区(1) 附件(1) Jetson AGX Thor 开发套件/模组(1)

RISC-V新CPU为端侧大模型落地应用提供新范式

发布时间:2025-03-31

纵观历史,但凡能够大幅提升生产力的技术必将大规模应用并深刻改变社会发展进程。以大模型为代表的新AI第一次使智能体具备了主动学习和泛化能力,为生产力的发展带来质的飞跃,未来数字世界和物理世界的绝大多数事物都将接入大模型新AI,进行智能化升级,引发新一轮工业革命。

互联网和移动互联网的发展历史表明,越贴近用户,其应用场景越大,产业价值越高。大模型最大的应用场景在终端和边缘端。未来所有的终端和边缘端设备都值得用大模型重新做一遍,为数十万亿规模的电子信息制造业提供增量市场和高质量发展的机遇。

大模型需要在资源有限的终端设备上高效运行,对芯片的AI部署通用性、易用性、经济性等提出了更高的要求。进迭时空的实践表明,RISC-V作为开源开放的下一代计算架构,以通用CPU核为基础,结合少量DSA定制和大量微架构创新,不仅具备完整CPU功能,更拥有强大的原生AI算力,可以为端侧大模型落地应用提供全新的解决方案。

RISC-V新CPU提供强大的AI通用性

进迭时空SpacemiT Key Stone® K1凭借其开放性和可编程性,能够轻松接入ONNXRuntime等主流开源生态。这一特性不仅降低了部署大量现有AI模型的门槛,还天然支持了timm、onnx modelzoo、ppl modelzoo等开源模型仓库的模型,以及所有的公开onnx模型。这意味着,无论是传统的小模型还是当下火热的大模型,如qwen系列、llama系列、minicpm系列、phi系列、chatglm系列、gemma系列等,都能在这款AI CPU上得到高效支持。

尤其是,进迭时空SpacemiT Key Stone® K1的原生AI算力具有极强的可编程性,支持主流低bit量化方式,从而极大地降低了大模型的带宽需求。K1芯片运行主流的5亿参数大模型可以实现每秒20个token的优异性能。

RISC-V新CPU提供强大的AI便捷性

借助主流开源生态,进迭时空不仅扩充了模型仓库,还实现了低成本的迁移ONNXRuntime生态中的各种案例。此外,通过云端通用AI助手,用户只需通过自然语言描述,即可实现AI部署。由于AI CPU支持全集ONNX算子,用户只需修改模型路径和摄像头设备号,即可成功进行部署,极大地简化了操作流程。

RISC-V新CPU构建本地大模型推理应用

进迭时空在SpacemiT Key Stone® K1芯片上构建了以通义千问(qwen2.5-1.5B-coder)为基础的本地AI助手。借助本地AI助手,用户可以通过自然语言描述实现AI部署,无需依赖网络连接,进一步提升了AI应用的便捷性和安全性。

未来,进迭时空将继续坚持RISC-V+AI技术路线,通过技术创新带来更具竞争力的解决方案,为大模型在终端和边缘端的普及提供强有力的支持。


想要了解及购买进迭时空产品,请前往iCEasy商城品牌专区:

https://s.iceasy.com/1Pjqx1

iCEasy商城欢迎您的到来!