DeepSeek-V4-Pro deepseek-ai

種別
model
タスク
text-generation
フレームワーク
transformers
ダウンロード
1,313,358
いいね
5,444
アクセス
public
ファイル
0

タグ

  • テキスト生成
  • 大規模言語モデル
  • MoEアーキテクチャ
  • 長コンテキスト
  • コード生成
  • エージェント
  • 推論
  • transformers

概要

DeepSeek-V4-Proは1.6Tパラメータ(有効49B)のMoE大規模言語モデルで、100万トークンの超長文脈をサポートします。ハイブリッド注意機構(CSA/HCA)により推論FLOPsを27%に、KVキャッシュを10%に削減し、長文処理の効率を大幅に改善しました。コード生成・数学的推論・エージェントタスクで最先端の性能を発揮し、オープンソースモデルとして最高水準の知識能力を実現しています。

README

--- license: mit library_name: transformers --- # DeepSeek-V4: 高効率な100万トークンコンテキスト知能の実現に向けて <!-- markdownlint-disable first-line-h1 --> <!-- markdownlint-disable html --> <!-- markdownlint-disable no-duplicate-header --> <div align="center"> <img src="https://github.com/deepseek-ai/DeepSeek-V2/blob/…

查看完整页面 · 查看原文