Qwen3-Coder-30B-A3B-Instruct-GGUF unsloth
- 类型
- model
- 任务
- text-generation
- 框架
- transformers
- 下载量
- 9,295,713
- 点赞
- 899
- 访问
- public
- 文件
- 0
标签
- 代码生成
- 大语言模型
- 混合专家
- 量化
- GGUF
- 本地部署
- 推理部署
- Agent
摘要
这是 Qwen3-Coder-30B-A3B-Instruct 的 GGUF 格式版本,由 Unsloth 提供量化,用于在消费级硬件上本地运行。该模型是 30.5B 总参数、3.3B 激活的混合专家(MoE)代码模型,支持 256K 原生上下文(可扩展至 1M),擅长智能体编码、工具调用和代码生成任务。适用于本地代码助手、仓库级代码理解与生成等场景。
README
--- tags: - unsloth - qwen3 - qwen base_model: - Qwen/Qwen3-Coder-30B-A3B-Instruct library_name: transformers license: apache-2.0 license_link: https://huggingface.co/Qwen/Qwen3-Coder-30B-A3B-Instruct/blob/main/LICENSE pipeline_tag: text-generation --- <div> <p style="margin-bottom: 0; margin-top: …