blogpost-fineweb-v1 HuggingFaceFW

类型
space
点赞
1,407
访问
public
文件
0

标签

  • 预训练语料
  • 数据处理
  • Web应用
  • 大语言模型
  • 数据

摘要

这是Hugging Face团队为FineWeb数据集发布的官方博客展示Space，全面介绍如何从互联网海量网页中筛选、清洗出高质量文本训练语料。该页面详细阐述了FineWeb在数据规模、处理流程、去重与过滤策略上的技术方案，并提供了各版本数据的对比分析。适用于关注大语言模型预训练语料构建的研究人员与工程师了解数据工程最佳实践。

README

--- title: 'FineWeb：大规模提取网络中的优质文本数据' emoji: 🍷 colorFrom: pink colorTo: red sdk: static pinned: false header: mini app_file: dist/index.html thumbnail: https://huggingface.co/spaces/HuggingFaceFW/blogpost-fineweb-v1/resolve/main/screenshot.jpeg ---

查看完整页面 · 查看原文