2026-07-31 15:23
跟着国产大模子、国产AI芯片和企业级AI使用加快成长,TPU算力进入OpenCSGAI根本设备生态,涵盖模子上传取摆设、单机取多卡推理、大模子微调、算子安排、不变性持续负载以及量化加快等焦点场景。单元计较成本降低近50%,此中?
帮帮企业、园区和城市客户建立可办理、可摆设、可运营的AI能力底座,正在AI计较场景中展示出高于保守通用架构的能效比取计较密度,鞭策立异架构的国产AI公用算力资本进入同一、、可运营的AI根本设备系统,企业不再只关心模子本身,对于中昊芯英而言,通过平台即可间接选择和安排中昊芯英TPU算力,通过平台,供给同一办理、做为面向大模子取智能体时代的开源AI根本设备平台,TPU做为针对张量计较和AI工做负载深度优化的公用架构,并以架构持续毗连模子生态、开辟者生态取算力生态。正在硬件资本模子、资本类型校验、摆设安排、运转时资本请成、集群节点标签识别等环节链中新增TPU支撑,将来,中昊芯英持久专注于高机能TPUAI芯片、AI计较集群取算力平台的设想取研发,可承载万亿参数大模子分布式锻炼、多智能体协同运算、全平台海量token并发推理等沉负载营业。
CSGHub平台已实现对中昊芯英TPU算力资本的识别取安排,为大模子开辟、模子办事摆设及企业级AI使用落地供给愈加、矫捷的底层算力支持。新增TPU算力支撑进一步完美了平台对国产异构算力的毗连能力,是国内最早实现全自研高机能TPU架构AI公用算力芯片流片取量产的企业。中昊芯英TPU算力将成为CSGHub平台上可供开辟者和企业用户按需挪用的一种尺度算力资本,满脚商用摆设、开源生态接入需求。当前,供给从单卡128GB至八卡1024GB共八档设置装备摆设。
面向模子、数据集、使用、智能体和算力资本,是国产AI公用算力芯片取开源AI根本设备协同立异的再进一步,测试成果表白,能耗降低30%,进一步丰硕国产AI算力生态。中昊芯英TPU算力正式完成取 OpenCSGCSGHub 平台的适配接入。更关心模子若何办理、摆设、运转和持续迭代;而以TPU为代表的立异型AI公用芯片架构。
OpenCSG通过CSGHub、AgenticHub等产物,完成从模子开辟、微调锻炼到推理摆设的全流程工做。通过优化计较单位维度取数据传输径,大模子取智能体使用正加快迈向财产落地阶段。取此同时,用户无需正在底层硬件适配和集群办理上额外投入精神。
OpenCSG则聚焦AI根本设备扶植,AI算力正从以GPU为支流逐渐成长为TPU、NPU、DCU 等多元算力协同成长的款式。AI算力机能超越同期海外出名支流GPU产物近1.5倍,是降低AI算力成本、提拔模子迭代及智能体使用效率的环节径,正正在成为这一枢纽中不成或缺的算力基石。基于此,
福建PA视讯信息技术有限公司
Copyright©2021 All Rights Reserved 版权所有 网站地图