小红书RedKnot引擎开源：破解长文本难题，推理速度与效率双提升

在生成式人工智能的应用场景中，如何让模型在处理超长文本时既快又省，一直是工程师们攻克的难题。近日，小红书技术团队开源了其自主研发的 RedKnot 推理引擎，带来了一套针对长上下文任务的“降本增效”新方案。RedKnot 的核心创新在于打破了传统的 KV Cache（键值缓存

AI“看图说话”背后：链式推理是助力还是干扰？多模态真相待解

模型变小，能力不减：新浪VibeThinker-3B 开源，AI 推理迎来“轻量化”新思路

新浪VibeThinker-3B开源：小模型大能量，AI推理开启“轻量化”高效时代

昨日，DeepSeek官方在Github低调发表了一篇最新论文，介绍其推理加速框架DSpark，试图解决大语言模型在高并发场景下的推理效率瓶颈。大语言模型采用自回归方式生成文本：每一个新词元的生成，都需要基…

除整体提升外，论文实验数据还揭示了显著的领域差异效应：：结构化任务（如数学推理、代码生成）的可接受长度天然更高（例如Qwen3-4B在数学任务上平均为5.57，代码任务为5.12），而开放式对话场景则明显偏…

梁文锋参与！DeepSeek联合北大发布新框架 提升大模型推理效率与速度

昨日，DeepSeek官方在Github低调发表了一篇最新论文，介绍其推理加速框架DSpark，试图解决大语言模型在高并发场景下的推理效率瓶颈。大语言模型采用自回归方式生成文本：每一个新词元的生成，都需要基…

DeepSeek联合北大发布新论文：DSpark框架提升推理速度 坚持开源初心

DeepSeek联合北大发布新论文：DSpark框架助力大模型推理加速 梁文锋参与

但 OpenAI 把这件事作为正式发布的一部分拿出来说，意思很明确：这既是一块推理芯片的发布，也是一次「AI 设计 AI 基础设施」的自我证明。从买英伟达的卡，到和 Broadcom 联手造自己的芯片，Op…

OpenAI携手博通推出定制推理芯片 性能提升或降低AI运营成本

但 OpenAI 把这件事作为正式发布的一部分拿出来说，意思很明确：这既是一块推理芯片的发布，也是一次「AI 设计 AI 基础设施」的自我证明。从买英伟达的卡，到和 Broadcom 联手造自己的芯片，Op…

小米MiMo-V2.5-Pro-UltraSpeed延期体验，万亿参数模型推理速度再引关注