日本語 BERT‑base モデルを JSNLI 上で教師付き SimCSE によってファインチューニングし、Sentence‑Transformers または HuggingFace を通じて CLS プーリングで公開、512 バッチサイズで 1 M のサンプルを用いて学習率 5 × 10⁻⁵、温度 5 × 10⁻⁵、64 タークン制限、BFloat16 精度でトレーニング。
他の言語の説明
統計
2026年11月16日時点の統計
Hugging Face のダウンロード数(直近30日)
2,000
Hugging Face の Like 数
3
掲載日
2025年12月15日
ダウンロード数(直近30日)の推移
数値を表で見る
| 月 | DL(30日) |
|---|---|
| 2025年12月 | 1,000 |
| 2026年1月 | 12,000 |
| 2026年2月 | — |
| 2026年3月 | 3,000 |
| 2026年4月 | 2,000 |
| 2026年5月 | 1,000 |
| 2026年6月 | 1,000 |
| 2026年7月 | 4,000 |
| 2026年8月 | 2,000 |
| 2026年9月 | 2,000 |
| 2026年10月 | 2,000 |
| 2026年11月 | 2,000 |
各月の最後のスナップショットにおける、直近30日間のダウンロード数です。
同じカテゴリで人気のリソース
- sentence-bert-base-ja-mean-tokens-v2sonoisa53k日本語 Sentence‑BERT v2 は、cl‑tohoku/bert‑base‑japanese‑whole‑word‑masking を MultipleNegativesRankingLoss でファインチューニングし、v1 に比べて約1.5〜2 % の精度向上を実現。sonoisa/sentence‑bert‑base‑ja‑mean‑tokens‑v2 としてリリースされました。
- clip-japanese-baseline-corporation34kLY Corporation の clip‑japanese‑base は、約 1 B の画像‑テキストペアで学習された日本語 CLIP モデルで、Eva02‑B トランスフォーマー画像エンコーダーと12層の BERT テキストエンコーダーを使用し、STAIR で R@1 0.30、Recruit で 0.89 の精度、ImageNet‑1K で 0.58 の精度を達成し、ゼロショット画像分類と検索をサポートしています。
- transformers-ud-japanese-electra-base-ginza-510megagonlabs22kja_ginza_electra は、mC4 と UD_Japanese_BCCWJ r2.8(megagonlabs/transformers‑ud‑japanese‑electra‑base‑discrimininator をベースにしたもの)でファインチューニングされた日本語 ELECTRA モデルを提供する spaCy v3 の Python パッケージです。カスタム bunsetu‑phrase 検出機能を備え、MIT ライセンスで配布されています。
- sentence-bert-base-ja-mean-tokenssonoisa14k文埋め込みを生成するJapanese Sentence‑BERT (v1) モデルで、改良版v2が利用可能で、Hugging Face Transformers とカスタム SentenceBertJapanese クラスを使用したサンプル使用例があります。
- sentence-luke-japanese-base-litesonoisa10k日本語Sentence‑LUKEモデルは、Sentence‑BERTと同じデータセットで訓練され、同等にするかそれを上回る性能を有し、studio‑ousia/luke‑japanese‑base‑lite をベースに構築され、Hugging Face Transformers の MLukeTokenizer と LukeModel を介して使用される。
- clip-japanese-base-v2line-corporation2kJapanese CLIP モデル clip‑japanese‑base‑v2 は、約20億画像‑テキストペアと蒸留でアップグレードされ、Eva02‑B 画像エンコーダと12層 BERT テキストエンコーダをペアリングし、前モデルよりも高い ImageNet‑1k 精度(0.708)を達成します。
研究分野が近いリソース
- japanese-hubert-baseyky-h28kJapanese HuBERT Base、12層トランスフォーマーでrinnaのオリジナルを模倣し、約19,000時間のReazonSpeech v1日本語音声で訓練され、Apache 2.0ライセンスで公開されています。共通: 表現学習
- sarashina-embedding-v2-1bsbintuitions2kSarashina‑Embedding‑v2‑1B は、1,792 次元の日本語文変換器であり、マルチステージ対照学習 (multi‑stage contrastive learning) によって訓練され、最先端の JMTEB スコアを達成しています。また、意味的類似度、検索、パラフレーズ・マイニング、分類、クラスタリングに利用でき、Sentence‑Transformers を通じてオプションの instruction prefixes 付きで使用可能です。共通: 表現学習
- ruri-v3-310mcl-nagoya634kRuri v3 は、ModernBERT‑Ja をベースとした最先端の日本語テキスト埋め込みモデルで、最大8,192トークンの入力、100Kトークンの語彙、FlashAttention で加速された推論、および高速な sentence‑transformer での使用のための複数サイズバリアントをサポートします。共通: 表現学習
- ruri-v3-30mcl-nagoya126kRuri v3 は、ModernBERT‑Ja をベースに構築された最先端の日本語テキスト埋め込みモデルで、最大 8,192 トークン、100 k‑トークン語彙、FlashAttention 加速、37 M から 315 M の複数サイズに対応しています。共通: 表現学習
- ruri-v3-130mcl-nagoya93kRuri v3は、ModernBERT‑Jaをベースに構築された最先端の日本語テキスト埋め込みモデルで、8192トークンまでのシーケンス、10万語の語彙、FlashAttentionに対応し、sentence‑transformers用に30 M〜310 Mパラメータのサイズでリリースされます。共通: 表現学習
chiVeWorksApplications179SudachiとNWJCを使用した日本語の単語埋め込み。GitHub共通: 表現学習