Yamz-Labs/kyojin

面向 AMD Strix Halo（ROCm/gfx1151）的推理引擎，基于 ExLlamaV3，可在 128GB 迷你 PC 上运行 300B 级 MoE 模型，显著降低大模型本地部署门槛。