Japanese DeBERTa V2 tinyは、約171 GBの日本語Wikipedia、CC‑100、およびOSCARコーパスで事前学習され、Juman++による形態素解析が必要です。8台のNVIDIA A100 GPUを使用して33時間で訓練され、下流タスクに微調整できます。
他の言語の説明
統計
2026年11月16日時点の統計
Hugging Face のダウンロード数(直近30日)
14,000
Hugging Face の Like 数
5
掲載日
—
ページ作成時から掲載
ダウンロード数(直近30日)の推移
数値を表で見る
| 月 | DL(30日) |
|---|---|
| 2025年12月 | 7,000 |
| 2026年1月 | 3,000 |
| 2026年2月 | 2,000 |
| 2026年3月 | 7,000 |
| 2026年4月 | 7,000 |
| 2026年5月 | 9,000 |
| 2026年6月 | 3,000 |
| 2026年7月 | 11,000 |
| 2026年8月 | 5,000 |
| 2026年9月 | 19,000 |
| 2026年10月 | 12,000 |
| 2026年11月 | 14,000 |
各月の最後のスナップショットにおける、直近30日間のダウンロード数です。
同じカテゴリで人気のリソース
- bert-base-japanese-whole-word-maskingtohoku-nlp462k2019年の日本語Wikipediaを対象に、IPA辞書と全単語マスキングを用いて事前学習されたJapanese BERT‑base、12層、768次元、32,000語語彙、512トークンシーケンス、1Mステップ、CC‑BY‑SAの下でcl‑tohoku/bert‑japaneseから入手可能。
- deberta-v2-large-japanese-char-wwmku-nlp76k171 GBの日本語Wikipedia、CC‑100、OSCARでトレーニングされた日本語DeBERTa V2 large modelは、文字レベルのsentencepieceトークナイズと全単語マスキングを使用し、Hugging Face Transformersを通じて下流でのファインチューニングに準備できています。
- bert-base-japanese-char-v2tohoku-nlp55kBERT‑base Japanese model(12層、768‑次元の hidden states、12ヘッド)を、30 M Wikipedia 文(約4 GB)で Unidic 2.1.2 を用いた単語レベルトークン化の後、文字レベルトークン化と全単語マスクを行い、512トークンのシーケンス、256バッチ、1 M トレーニングステップで訓練しました。
- modernbert-ja-310msbintuitions36kModernBERT‑Ja‑310M は local‑global attention と RoPE を組み合わせた日本語 BERT 変種で、4.09 T tokens の日本語/英語テキストで訓練され、102 400語の語彙、8 192トークンのシーケンスをサポートし、Flash Attention 2 用に最適化されています。
- deberta-v2-base-japanese-char-wwmku-nlp24k日本語のDeBERTa‑V2ベースモデルで、171 GBの日本語Wikipedia、CC‑100、およびOSCARテキストをキャラクターレベルトークン化とワードレベルマスクで事前学習し、8台のA100 GPUで20日間訓練済みで、下流のファインチューニングに準備完了です。
- deberta-v2-base-japaneseku-nlp24k日本語 DeBERTa V2 ベースモデルは、171 GBの日本語 Wikipedia、CC‑100、OSCAR データを用いて Juman++ セグメンテーションと SentencePiece トークン化で事前学習され、8枚の NVIDIA A100 GPU を 3週間使用してトレーニングされ、ファインチューニングに向けて準備ができています。
研究分野が近いリソース
rinna_gpt-neox_ggml-lorayukaryavka19このリポジトリには、"rinna/japanese-gpt-neox..." [gpt-neox] モデルをggmlに変換した場合に、Alpaca-LoraアダプターをLoRAチューニングに適応させるために修正されたスクリプトとマージスクリプトが含まれています。GitHub共通: 統語的テキスト処理・言語モデル
aMLP-japanesetanreinama16日本語用のaMLPトランスフォーマーモデルGitHub共通: 統語的テキスト処理・言語モデル- japanese-roberta-baserinna9kJapanese‑Roberta‑Base は rinna Co., Ltd. が開発した事前学習済みのマスク言語モデルで、正しいロード方法、トークン前処理、位置ID処理、および使用例に関するガイドラインがあり、先頭に [CLS] トークンが必要であることと、一貫したトークン化を強調しています。共通: 統語的テキスト処理・言語モデル
- modernbert-ja-130msbintuitions12k132 Mパラメータの日本語 ModernBERT モデルで、ローカルグローバルとRoPE注意を組み合わせ、4.39 T トークン(日本語/英語)で訓練され、102 kサイズの語彙、最大8,192トークン長、Flash Attention 2 に最適化されています共通: 言語モデル・意味的テキスト処理
GPTSANtanreinama119汎用スイッチトランスをベースにした日本語モードGitHub共通: 言語モデル・意味的テキスト処理
bertinformatix-inc28このリポジトリは、日本語コーパスで事前学習されたRoBERTaを使用するためのスニペットを提供しています。私たちのデータセットは、日本語のWikipediaとWebスクロールされた記事で、合計25GBです。リリースされたモデルは、HuggingFaceからのものをベースに構築されています。GitHub共通: 言語モデル・意味的テキスト処理