Show HN: Janus – Go binary that runs GGUF models via Vulkan on AMD/Intel/Nvidia

hackernews · Hacker News · 2026-10-02 04:36 · 评分 85

Janus 开源项目发布：这是一个用 Go 编写的 AI 模型 API 路由器，内置基于 Vulkan 的模型运行器，能够通过 Vulkan 在 AMD、Intel、Nvidia GPU 上直接运行 GGUF 模型，方便跨厂商硬件进行本地推理部署。