红帽公司宣布启动新开源项目llm-d
2025-05-28 08:38:58   来源：   评论：0 点击：

潍坊市经济技术合作中心（原潍坊市招商局）电话05368970059。信息来自网络， 如有不实或侵权，请联系删除

红帽公司宣布启动新开源项目llm-d，以满足生成式AI大规模推理需求。该项目与创始贡献者CoreWeave、Google Cloud、IBM Research和NVIDIA合作打造，能够利用突破性的大规模生成式AI推理技术，让大语言模型推理云能够满足最苛刻的生产服务级目标。