Transformers 支持直接加载 GGUF 量化模型

Hugging Face 宣布 transformers 支持直接运行 GGUF 量化模型。用户可通过 from_pretrained 传入 gguf_file 加载 Hub 上的 GGUF checkpoint，并复用 ggml 的 Metal 内核，本地推理性能接近 llama.cpp。