Kimi-K3 moonshotai
- 类型
- model
- 许可
- other
- 任务
- image-text-to-text
- 框架
- transformers
- 下载量
- 2,100,680
- 点赞
- 10,728
- 参数量
- 2,779,931,837,184
- 访问
- public
- 文件
- 118
标签
- 多模态
- 大语言模型
- 混合专家
- Agent
- 文本生成
- 代码生成
- 量化
- transformers
摘要
Kimi K3是月之暗面发布的开源原生多模态Agent模型，总参数达2.8T（激活104B），基于Kimi Delta Attention（KDA）与Attention Residuals（AttnRes）混合专家架构，支持100万token超长上下文。该模型原生理解文本、图像和视频，擅长长程编码、深度知识工作与推理，可少人工干预地导航大型代码仓库、编排终端工具直至芯片设计。采用MXFP4/MXFP8混合量化训练（containing压缩张量），面向研究、部署与前沿智能创新场景开放全部权重。
README
--- tags: - compressed-tensors - conversational license: other license_name: "kimi-k3" library_name: transformers pipeline_tag: image-text-to-text --- <div align="center"> <picture> <img src="assets/kimi-logo.png" width="30%" alt="Kimi K3"> </picture> </div> <hr> <div align="center" style="line-hei…