通义实验室发布新算法：改进大模型推理训练机制

通义实验室新算法FIPO：精准优化关键Token 提升大模型推理能力

​阿里通义实验室推出 FIPO 算法，助力大模型推理能力大幅提升

字节跳动北航联手出新招：SAGE算法让大模型推理“瘦身”又增效

曦望完成近30亿融资：聚焦推理GPU，剑指降低大模型推理成本与门槛

小米昨日晚间惊喜发布了 Xiaomi MiMo-V2-Flash 开源 MoE 模型，总参数量 309B，活跃参数量 15B，专为智能体 AI 设计，专注于快。不少IT之家小伙伴体验后发现，该模型推理速度非…

近日，中国电信研究院联合中科院计算所、华为N腾、沐曦等产业伙伴，依托中国电信云网融合技术中试验证平台，成功完成业界首个面向国产算力的跨架构大模型推理技术验证。此次突破构建了基于Triton的异构大模型推理框架，实现“一套框架代码、三芯透明迁移”的核心目标，将大模型算子适配周期从“周级”压缩至“天级”，性能达到原生算子库90%。

【新智元导读】6位前DeepMind成员以元系统重塑大模型调用方式，该系统推出的Gemini 3Pro优化技术在ARC-AGI-2上以54%的成绩夺得榜首，而成本仅为此前最优方法的一半。 他们的新初创公司…

Meta与爱大合作研发CRV技术，可预测修复大语言模型推理错误

IT之家 9 月 18 日消息，由 DeepSeek 团队共同完成、梁文锋担任通讯作者的 DeepSeek-R1推理模型研究论文，登上了国际权威期刊《自然（Nature）》第 645 期的封面。 据悉，De…

​BentoML推出llm-optimizer工具，助力开发者高效优化大型语言模型推理性能​

在人工智能领域，大语言模型的训练与推理成本一直是限制技术普及的关键因素之一。近日，北京大学人工智能研究院助理教授张牧涵团队在鲲鹏昇腾科教创新卓越中心(简称“卓越中心”)提供的算力支持下，成功研发出一套高效的大模型训练推理架构，实现了百万tokens输入成本低

具备高能效比的架构，广泛适用于智慧手机和AI PC等终端设备2025年6月9日，中国上海——芯原股份（芯原，股票代码：688521.SH）今日宣布其超低能耗且高性能的神经网络处理器（NPU）IP现

Deepseek推动大模型平价化，降低开发成本，为下游端侧和应用侧打开市场空间，催生大量推理算力需求。IDC预测2026年中国智能算力规模年复合增长率达52.3%，增长源于推理端需求释放，大模型应用中推理算力需求超训练算力。国内各厂商已积极开展布局适配DeepSeek的多类型算力芯片的推理框架，实现推理算力效率最大化、提升DeepSeek推理速度、创新业务模式等，增强其在DeepSeek推理方向的市场竞争力。