132 Mパラメータの日本語 ModernBERT モデルで、ローカルグローバルとRoPE注意を組み合わせ、4.39 T トークン(日本語/英語)で訓練され、102 kサイズの語彙、最大8,192トークン長、Flash Attention 2 に最適化されています
他の言語の説明
統計
2026年11月16日時点の統計
Hugging Face のダウンロード数(直近30日)
12,000
Hugging Face の Like 数
51
掲載日
2025年2月18日
ダウンロード数(直近30日)の推移
数値を表で見る
| 月 | DL(30日) |
|---|---|
| 2025年12月 | 8,000 |
| 2026年1月 | 4,000 |
| 2026年2月 | 8,000 |
| 2026年3月 | 10,000 |
| 2026年4月 | 9,000 |
| 2026年5月 | 19,000 |
| 2026年6月 | 16,000 |
| 2026年7月 | 40,000 |
| 2026年8月 | 119,000 |
| 2026年9月 | 101,000 |
| 2026年10月 | 16,000 |
| 2026年11月 | 12,000 |
各月の最後のスナップショットにおける、直近30日間のダウンロード数です。
同じカテゴリで人気のリソース
- bert-base-japanese-whole-word-maskingtohoku-nlp462k2019年の日本語Wikipediaを対象に、IPA辞書と全単語マスキングを用いて事前学習されたJapanese BERT‑base、12層、768次元、32,000語語彙、512トークンシーケンス、1Mステップ、CC‑BY‑SAの下でcl‑tohoku/bert‑japaneseから入手可能。
- deberta-v2-large-japanese-char-wwmku-nlp76k171 GBの日本語Wikipedia、CC‑100、OSCARでトレーニングされた日本語DeBERTa V2 large modelは、文字レベルのsentencepieceトークナイズと全単語マスキングを使用し、Hugging Face Transformersを通じて下流でのファインチューニングに準備できています。
- bert-base-japanese-char-v2tohoku-nlp55kBERT‑base Japanese model(12層、768‑次元の hidden states、12ヘッド)を、30 M Wikipedia 文(約4 GB)で Unidic 2.1.2 を用いた単語レベルトークン化の後、文字レベルトークン化と全単語マスクを行い、512トークンのシーケンス、256バッチ、1 M トレーニングステップで訓練しました。
- modernbert-ja-310msbintuitions36kModernBERT‑Ja‑310M は local‑global attention と RoPE を組み合わせた日本語 BERT 変種で、4.09 T tokens の日本語/英語テキストで訓練され、102 400語の語彙、8 192トークンのシーケンスをサポートし、Flash Attention 2 用に最適化されています。
- deberta-v2-base-japanese-char-wwmku-nlp24k日本語のDeBERTa‑V2ベースモデルで、171 GBの日本語Wikipedia、CC‑100、およびOSCARテキストをキャラクターレベルトークン化とワードレベルマスクで事前学習し、8台のA100 GPUで20日間訓練済みで、下流のファインチューニングに準備完了です。
- deberta-v2-base-japaneseku-nlp24k日本語 DeBERTa V2 ベースモデルは、171 GBの日本語 Wikipedia、CC‑100、OSCAR データを用いて Juman++ セグメンテーションと SentencePiece トークン化で事前学習され、8枚の NVIDIA A100 GPU を 3週間使用してトレーニングされ、ファインチューニングに向けて準備ができています。
研究分野が近いリソース
GPTSANtanreinama119汎用スイッチトランスをベースにした日本語モードGitHub共通: 言語モデル・意味的テキスト処理
bertinformatix-inc28このリポジトリは、日本語コーパスで事前学習されたRoBERTaを使用するためのスニペットを提供しています。私たちのデータセットは、日本語のWikipediaとWebスクロールされた記事で、合計25GBです。リリースされたモデルは、HuggingFaceからのものをベースに構築されています。GitHub共通: 言語モデル・意味的テキスト処理
Laboro-DistilBERT-Japaneselaboroai16ラボロ DistilBERT 日本語GitHub共通: 言語モデル・意味的テキスト処理
bertjscer-ri14BERTを使用した日本語スペルエラー修正ツールGitHub共通: 言語モデル・意味的テキスト処理
medbertjpou-medinfo13日本語の医療分野における事前学習済みBERTモデルの試験。GitHub共通: 言語モデル・意味的テキスト処理- sentence-bert-base-ja-mean-tokens-v2sonoisa53k日本語 Sentence‑BERT v2 は、cl‑tohoku/bert‑base‑japanese‑whole‑word‑masking を MultipleNegativesRankingLoss でファインチューニングし、v1 に比べて約1.5〜2 % の精度向上を実現。sonoisa/sentence‑bert‑base‑ja‑mean‑tokens‑v2 としてリリースされました。共通: 言語モデル・意味的テキスト処理