
开云kaiyun.com已毕AI职责负载与算力资源的精确匹配-kai云体育app官网版下载官网
新闻中心
新浪科技讯 11月24日晚间音讯,在近日的2025 AI容器应用落地与发展论坛上,华为公司副总裁、数据存储家具线总裁周跃峰讲求发布AI容器时间——Flex:ai。同期,华为聚拢上海交通大学、西安交通大学与厦门大学共同告示,将此项产学协作效果向外界开源,助力破解算力资源诓骗清贫。 面前,AI产业高速发展催生海量算力需求,但人人算力资源诓骗率偏低的问题日益突显,“算力资源花消”成为产业发展的重要枷锁:小模子任务独占整卡导致资源闲置,大模子任务单机算力不及难以撑合手,大批穷乏GPU/NPU的通用做事
详情

新浪科技讯 11月24日晚间音讯,在近日的2025 AI容器应用落地与发展论坛上,华为公司副总裁、数据存储家具线总裁周跃峰讲求发布AI容器时间——Flex:ai。同期,华为聚拢上海交通大学、西安交通大学与厦门大学共同告示,将此项产学协作效果向外界开源,助力破解算力资源诓骗清贫。
面前,AI产业高速发展催生海量算力需求,但人人算力资源诓骗率偏低的问题日益突显,“算力资源花消”成为产业发展的重要枷锁:小模子任务独占整卡导致资源闲置,大模子任务单机算力不及难以撑合手,大批穷乏GPU/NPU的通用做事器更是处于算力“寝息”情状,供需错配形成严重的资源花消。
本次发布并开源的Flex:ai XPU池化与治疗软件,是基于Kubernetes容器编排平台构建,通过对GPU、NPU等智能算力资源的良好化处理与智能治疗,已毕AI职责负载与算力资源的精确匹配,可大幅擢升算力诓骗率。
据先容,该时间深度交融了三大高校与华为的科研力量,形成三大中枢时间冲突:针对AI小模子训推场景中“一张卡跑一个任务”的资源花消问题,华为与上海交通大学聚拢研发XPU池化框架,可将单张GPU或NPU算力卡切分为多份捏造算力单位,已毕算力单位的按需切分,使此类场景下的举座算力平均诓骗率擢升30%;针对大批通用做事器因穷乏智能计较单位而无法做事于AI职责负载的问题,华为与厦门大学聚拢研发跨节点拉远捏造化时间。该时间将集群内各节点的自在XPU算力团员形成“分享算力池”,促进通用算力与智能算力资源交融;濒临算力集群中多品牌、多规格异构算力资源难以调节治疗的痛点,华为与西安交通大学共同打造Hi Scheduler智能治疗器,已毕AI职责负载分时复用资源。即便在负载世俗波动的场景下,也能保险AI职责负载的谨慎开动。
海量资讯、精确解读,尽在新浪财经APP
职守剪辑:何俊熹 开云kaiyun.com
