xlm-roberta-base FacebookAI
- 유형
- model
- 태스크
- fill-mask
- 프레임워크
- transformers
- 다운로드
- 18,110,036
- 좋아요
- 882
- 접근
- public
- 파일
- 0
태그
- 마스크 언어모델
- 다국어
- NLP
- transformers
- 파인튜닝
- 텍스트 분류
요약
Facebook AI가 개발한 XLM-RoBERTa 기반의 다국어 마스크 언어모델로, 100개 언어로 구성된 2.5TB의 CommonCrawl 데이터를 사전학습했습니다. MLM(마스크 언어 모델링) 목적함수를 사용해 문장의 양방향 표현을 학습하며, 주로 시퀀스 분류·토큰 분류·질문응답 등 하류 태스크에 파인튜닝되는 것을 목적으로 합니다. 다국어 자연어처리 작업의 특징 추출기로 널리 활용됩니다.
README
--- tags: - exbert language: - multilingual - af - am - ar - as - az - be - bg - bn - br - bs - ca - cs - cy - da - de - el - en - eo - es - et - eu - fa - fi - fr - fy - ga - gd - gl - gu - ha - he - hi - hr - hu - hy - id - is - it - ja - jv - ka - kk - km - kn - ko - ku - ky - la - lo - lt - lv …