DeepSeek-V4-Pro deepseek-ai
- 種別
- model
- タスク
- text-generation
- フレームワーク
- transformers
- ダウンロード
- 1,313,358
- いいね
- 5,444
- アクセス
- public
- ファイル
- 0
タグ
- テキスト生成
- 大規模言語モデル
- MoEアーキテクチャ
- 長コンテキスト
- コード生成
- エージェント
- 推論
- transformers
概要
DeepSeek-V4-Proは1.6Tパラメータ(有効49B)のMoE大規模言語モデルで、100万トークンの超長文脈をサポートします。ハイブリッド注意機構(CSA/HCA)により推論FLOPsを27%に、KVキャッシュを10%に削減し、長文処理の効率を大幅に改善しました。コード生成・数学的推論・エージェントタスクで最先端の性能を発揮し、オープンソースモデルとして最高水準の知識能力を実現しています。
README
--- license: mit library_name: transformers --- # DeepSeek-V4: 高効率な100万トークンコンテキスト知能の実現に向けて <!-- markdownlint-disable first-line-h1 --> <!-- markdownlint-disable html --> <!-- markdownlint-disable no-duplicate-header --> <div align="center"> <img src="https://github.com/deepseek-ai/DeepSeek-V2/blob/…