electra-base-discriminator google

Tipo
model
Framework
transformers
Descargas
56,262,567
Me gusta
153
Acceso
public
Archivos
0

Etiquetas

  • preentrenamiento
  • transformers
  • NLP
  • modelo de lenguaje
  • clasificación de texto
  • aprendizaje profundo
  • PyTorch

Resumen

ELECTRA es un método de preentrenamiento de representaciones de lenguaje que entrena un discriminador para distinguir tokens "reales" de tokens "falsos" generados por otra red, similar a la discriminadora de un GAN. Logra resultados sólidos incluso entrenado en una sola GPU y alcanza resultados de …

README

--- language: en thumbnail: https://huggingface.co/front/thumbnails/google.png license: apache-2.0 --- ## ELECTRA: Pre-training Text Encoders as Discriminators Rather Than Generators **ELECTRA** es un nuevo método para el aprendizaje de representación del lenguaje auto-supervisado. Puede utilizarse…

查看完整页面 · 查看原文