推理
-
AI推理赛道再掀热潮！Baseten获超百亿融资，押注开源模型未来
Baseten帮助企业客户部署和运行开源或自主定制的AI模型，提供GPU调度、自动扩缩容、可观测性和计费等全套系统软件，相当于AI推理阶段的基础设施层。推动这一增长的核心逻辑是，开源AI模型的性能正在逼近闭源…
-
AI推理赛道再掀热潮！Baseten获101亿融资，估值飙升至880亿
Baseten帮助企业客户部署和运行开源或自主定制的AI模型，提供GPU调度、自动扩缩容、可观测性和计费等全套系统软件，相当于AI推理阶段的基础设施层。推动这一增长的核心逻辑是，开源AI模型的性能正在逼近闭源…
-
AI芯片独角兽Groq斩获44亿融资，全力押注AI推理云能否逆袭突围？
芯东西6月23日报道，昨晚，美国AI推理芯片独角兽Groq宣布完成6.5亿美元（约合人民币44亿元）成长型融资，本次融资将用于其全球AI推理云业务扩张，目标是2027年算力规模扩容至200兆瓦。 去年年底，…
-
苹果与LM Studio强强联手：四台Mac Studio实现万亿参数大模型本地推理新突破
苹果与LM Studio强强联手：四台Mac Studio实现万亿参数大模型本地推理新突破
-
富国银行报告：亚马逊AWS或深化合作，采购高通AI200降推理成本
IT之家 6 月 14 日消息，据 Wccftech 报道，富国银行 (Wells Fargo) 的最新研究报告指出，高通有望深化与亚马逊旗下AWS 部门在人工智能芯片领域的合作关系，为亚马逊 AWS 提供…
-
谷歌推出26B规模DiffusionGemma模型：文本生成速度飙升 本地推理新利器
Gemmna 家族有了新成员 ——DiffusionGemma，一个探索文本扩散的实验性开源模型，在文本生成任务上速度极快。 谷歌 CEO皮查伊表示，「DiffusionGemma 是一款开放的实验性模型…
-
浪潮计算机高密度AI服务器重磅上市，树立大模型推理算力新标杆
当前，随着生成式人工智能落地提速，各行各业加速搭建专属大模型应用，千亿参数MoE大模型、图文多模态模型落地需求持续暴涨，而传统推理硬件普遍存在单机算力不足、显存容量受限，推理成本高等短板。大模型部署面临着性能提升和成本压缩的双重挑战，如何以更低门槛、更
