当前，拥有完整自主可控的 AI 技术栈已成为国家战略性需求。DeepSeek、QwQ 等优秀的国产开源大模型正在重塑全球科技产业格局，但在大模型推理部署领域，业界仍高度依赖国外开源工具。

IT之家 3 月 14 日消息，清华大学高性能计算研究所翟季冬教授团队、清华系科创企业清程极智今日联合宣布，大模型推理引擎“赤兔 Chitu”现已开源。据介绍，该引擎首次实现在非英伟达 Hopper 架构 GPU 及各类国产芯片上原生运行 FP8 精度模型，实现 DeepSeek ...

在人工智能领域竞争日益激烈的今天，清华大学高性能计算研究所的翟季冬教授团队以及清程极智公司联合推出了一款重磅产品——大模型推理引擎“赤兔Chitu”。这一创新的引擎现已开源，标志着国产智能硬件在大模型推理上迈出了重要一步。赤兔引擎的推出不仅为学界和业界的研究提供了新平台，也为推动国内AI技术实现自主可控创造了条件。

IT之家3 月 14 日消息，清华大学高性能计算研究所翟季冬教授团队、清华系科创企业清程极智今日联合宣布，大模型推理引擎“赤兔 Chitu”现已开源。 据介绍，该引擎首次实现在非英伟达 Hopper 架构 GPU 及各类国产芯片上原生运行 FP8 精度模型，实现 DeepSeek 推理成本降低一半、性能翻番。其定位为“生产级大模型推理引擎”，提供如下特性： 多元算力适配：不仅支持 NVIDIA 最 ...

在 A800 集群上的实测数据显示，用赤兔引擎部署 DeepSeek-671B 满血版推理服务，相比于 vLLM 部署方案，不仅 使用的 GPU 数量减少了 50% ，而且 输出速度还提升了 3.15 倍 当前，拥有完整自主可控的 AI ...

清华大学高性能计算研究所传来重要消息，翟季冬教授团队携手清华系科创先锋清程极智，共同宣布了一项重大开源成果——大模型推理引擎“赤兔 Chitu”。