14日，清华大学高性能计算研究所翟季冬教授团队与清华系科创企业清程极智联合宣布，开源大模型推理引擎“赤兔Chitu”，该引擎首次实现在非英伟达Hopper架构GPU及各类国产芯片上原生运行FP8精度模型，为国产AI芯片的广泛应用和生态建设带来了新的突破。

在人工智能技术迅速发展的今天，清华大学高性能计算研究所翟季冬教授团队与清华系科创企业清程极智于近日联合推出了一款革命性的开源大模型推理引擎“赤兔Chitu”。此次发布的引擎，标志着AI推理领域又一技术的重大突破。

然而，当前全球领先的FP8模型长期依赖英伟达H系列高端GPU，这使得国内企业在部署大模型时受限于AI芯片的限制。一方面，英伟达H系列芯片的进口受限，导致国内企业难以获取高性能硬件支持；另一方面，大多数国产芯片因不支持FP8数据类型，无法充分发挥新一代AI模型的性能，企业部署成本高昂。

今天，清华系科创企业清程极智与清华大学翟季冬教授团队联合宣布开源大模型推理引擎「赤兔」（Chitu），率先实现了非 H 卡设备（英伟达 Hopper 架构之前的 GPU 卡及各类国产卡）运行原生 FP8 模型的突破。