背景 / Background
McFlashInfer 基于 FlashInfer,在 MACA 软件栈上提供 LLM 推理相关算子。仓库内版权与修改说明为 MetaX Integrated Circuits (Shanghai) Co., Ltd.,实际使用的 PyTorch 等包也带有 metax 版本标识(例如 torch x.x.x+metax...)。
在社区或对外说明中,容易将「MACA」与 摩尔线程(Moore Threads) 混为一谈。需要明确:
- 本仓库所针对的硬件/软件生态为 MetaX(沐曦),而非摩尔线程。
- 若文档、Wiki、博客或第三方集成说明中误写厂商,会误导用户安装错误的驱动/SDK 或 PyTorch wheel。
期望 / Expected
- 在 README(或
CONTRIBUTING)中增加简短 Vendor / 面向厂商 说明:本工程由 MetaX 侧维护/适配,MACA 指 MetaX 提供的 MACA 工具链与运行时。
- 对外引用时统一表述,避免「MACA = 摩尔线程」的隐含假设(两家为不同厂商)。
- (可选)若存在与上游 FlashInfer 的说明分叉,在文档中注明 McFlashInfer 与上游的差异及厂商范围。
补充:安装文档与 PyTorch 依赖
当前 README 中 pip install dist/flashinfer-*.whl 会触发 pip 按元数据解析并可能安装 PyPI 上的 NVIDIA CUDA 版 torch,覆盖本机已安装的 MetaX 版 torch。建议在安装说明中写明使用:
pip install --no-deps dist/flashinfer-*.whl
背景 / Background
McFlashInfer 基于 FlashInfer,在 MACA 软件栈上提供 LLM 推理相关算子。仓库内版权与修改说明为 MetaX Integrated Circuits (Shanghai) Co., Ltd.,实际使用的 PyTorch 等包也带有 metax 版本标识(例如
torch x.x.x+metax...)。在社区或对外说明中,容易将「MACA」与 摩尔线程(Moore Threads) 混为一谈。需要明确:
期望 / Expected
CONTRIBUTING)中增加简短 Vendor / 面向厂商 说明:本工程由 MetaX 侧维护/适配,MACA 指 MetaX 提供的 MACA 工具链与运行时。补充:安装文档与 PyTorch 依赖
当前
README中pip install dist/flashinfer-*.whl会触发 pip 按元数据解析并可能安装 PyPI 上的 NVIDIA CUDA 版 torch,覆盖本机已安装的 MetaX 版 torch。建议在安装说明中写明使用:pip install --no-deps dist/flashinfer-*.whl