标签：模型量化

通过Python接口本地运行量化Phi-3-mini-4k模型的工具，基于llama.cpp实现。