推理
-
阿里通义千问升级推理模型,Qwen3-30B-A3B-Thinking-2507能力大幅提升并开源
IT之家 7 月 31 日消息,阿里通义千问今日宣布推出全新推理模型 Qwen3-30B-A3B-Thinking-2507。相较于 4 月29 日开源的 Qwen3-30-A3B 模型,新模型在推理能力、…
-
北大张牧涵团队依托昇腾突破推理效率瓶颈 大模型推理百万tokens 成本仅 1 元
在人工智能领域,大语言模型的训练与推理成本一直是限制技术普及的关键因素之一。近日,北京大学人工智能研究院助理教授张牧涵团队在鲲鹏昇腾科教创新卓越中心(简称“卓越中心”)提供的算力支持下,成功研发出一套高效的大模型训练推理架构,实现了百万tokens输入成本低
-
秘塔AI搜索“深度研究”模块公测:免费开放,中文推理表现突出
秘塔AI搜索“深度研究”模块公测:免费开放,中文推理表现突出
-
日内瓦高级别研讨会聚焦数字创新,云天励飞建言AI 推理芯片标准与普惠发展
当地时间 7 月 11 日,工业和信息化部(MIIT)与国际电信联盟(ITU)联合举办主题为“深化数字创新合作 共筑美好数字未来”的高级别研讨会在日内瓦成功举行。工信部副部长单忠德、ITU 副秘书长托马斯·拉玛瑙斯卡斯(Tomas Lamanauskas)出席并致辞。本次研讨会旨在回顾ITU 16
-
AI 推理企业 Groq 启用首个欧洲数据中心,估值有望达 60 亿美元
AI 推理芯片及服务企业 Groq 美国加州当地时间本月 6 日宣布同数据基础设施企业 Equinix 合作,启用其位于芬兰赫尔辛基的首个欧洲数据中心,以满足欧洲客户对 LPU 算力不断增长的需求。
-
阿里云PAI-TurboX:自动驾驶模型训练推理加速器横空出世
阿里云PAI-TurboX:自动驾驶模型训练推理加速器横空出世
-
阿里云推出自动驾驶模型训练推理加速框架,训练时间可缩短50%
6月23日消息,阿里云推出面向自动驾驶领域模型的训练、推理加速框架PAI-TurboX,该框架可提升感知、规划控制乃至世界模型的训推效率,在多个行业模型的训练任务中,PAI-TurboX均可缩短50%的时间。目前,业界主流的自动驾驶方案需要融合图像、激光雷达、毫米波雷达、GPS
-
蚂蚁技术新突破:Ring-lite轻量级MoE推理模型惊艳开源
蚂蚁技术新突破:Ring-lite轻量级MoE推理模型惊艳开源
-
MiniMax发布全球首个开源混合架构推理模型M1,性能卓越
MiniMax-M1-40k 和 MiniMax-M1-80k 在 SWE-bench 验证基准上分别取得 55.6% 和 56.0%的优异成绩,这一成绩略逊于 DeepSeek-R1-0528 的 5…
-
MiniMax-M1震撼登场!全球首开混合架构推理模型新纪元
MiniMax-M1震撼登场!全球首开混合架构推理模型新纪元
-
AMD MI350本周震撼发布:AI推理性能飙升35倍,能否撼动NVIDIA地位?
AMD MI350本周震撼发布:AI推理性能飙升35倍,能否撼动NVIDIA地位?
-
芯原超低能耗NPU可为移动端大语言模型推理提供超40 TOPS算力
具备高能效比的架构,广泛适用于智慧手机和AI PC等终端设备2025年6月9日,中国上海——芯原股份(芯原,股票代码:688521.SH)今日宣布其超低能耗且高性能的神经网络处理器(NPU)IP现
-
英伟达联手高校推出Fast-dLLM框架,AI推理速度大幅提升最高达27.6倍
英伟达联手高校推出Fast-dLLM框架,AI推理速度大幅提升最高达27.6倍
-
中国首个专注AI推理的Serverless GPU产品上线:清华力量共绩科技驱动AI普惠
编者按:本文将深入探讨AI推理领域面临的核心挑战,并介绍中国首个专注AI推理的Serverless产品——共绩算力AI推理Serverless平台。我们将解析其技术亮点、背后源自清华的创业团队力量,以及其如何以创新的价格策略,打造中国版的RunPod,赋能广大开发者与企业,共同迎接
-
NVIDIA TensorRT登陆RTX显卡,AI推理性能翻倍提升在即!
NVIDIA TensorRT登陆RTX显卡,AI推理性能翻倍提升在即!











