一款在 JSNLI 上使用監督式 SimCSE 微調的日語 BERT‑base 模型,透過 Sentence‑Transformers 或 HuggingFace 以 CLS pooling 方式公開,訓練於 1 M 範例,batch size 512,學習率 5 × 10⁻⁵,溫度 5 × 10⁻⁵,64‑token 限制,以及 BFloat16 精度。
其他語言的說明
統計
統計資料截至 2026年11月16日
Hugging Face 下載數(近 30 天)
2,000
Hugging Face 按讚數
3
收錄日
2025年12月15日
下載數(近 30 天)變化
以表格顯示
| 月份 | 下載(30天) |
|---|---|
| 2025年12月 | 1,000 |
| 2026年1月 | 12,000 |
| 2026年2月 | — |
| 2026年3月 | 3,000 |
| 2026年4月 | 2,000 |
| 2026年5月 | 1,000 |
| 2026年6月 | 1,000 |
| 2026年7月 | 4,000 |
| 2026年8月 | 2,000 |
| 2026年9月 | 2,000 |
| 2026年10月 | 2,000 |
| 2026年11月 | 2,000 |
各月最後一次快照時的近 30 天下載數。
同分類的熱門資源
- sentence-bert-base-ja-mean-tokens-v2sonoisa53k一個日本語的 Sentence‑BERT v2,經過在 cl‑tohoku/bert‑base‑japanese‑whole‑word‑masking 上微調,並採用 MultipleNegativesRankingLoss,與 v1 相比提升了約 1.5–2 % 的準確率,並以 sonoisa/sentence‑bert‑base‑ja‑mean‑tokens‑v2 形式釋出。
- clip-japanese-baseline-corporation34kLY Corporation 的 clip‑japanese‑base 是一個訓練於約 1 B 影像‑文字配對的日文 CLIP 模型,使用 Eva02‑B Transformer 影像編碼器並配備 12 層 BERT 文字編碼器,於 STAIR 的 R@1 成績為 0.30,於 Recruit 的準確度為 0.89,以及於 ImageNet‑1K 的準確度為 0.58,並支援零樣本影像分類與檢索。
- transformers-ud-japanese-electra-base-ginza-510megagonlabs22kja_ginza_electra 是一個 spaCy v3 Python 套件,提供已在 mC4 和 UD_Japanese_BCCWJ r2.8 上微調的日語 ELECTRA 模型(基於 megagonlabs/transformers‑ud‑japanese‑electra‑base‑discrimininator),並具備自訂 bunsetu‑phrase detection,依照 MIT license 發佈。
- sentence-bert-base-ja-mean-tokenssonoisa14kJapanese Sentence‑BERT (v1) 模型,用於生成句子嵌入,並提供改進版 v2,並可透過 Hugging Face Transformers 與自訂的 SentenceBertJapanese 類別示範使用。
- sentence-luke-japanese-base-litesonoisa10kJapanese Sentence‑LUKE 模型在與 Sentence‑BERT 相同的資料集上進行訓練,表現優於或相當於 Sentence‑BERT,基於 studio‑ousia/luke‑japanese‑base‑lite 建立,並透過 Hugging Face Transformers 的 MLukeTokenizer 與 LukeModel 使用。
- clip-japanese-base-v2line-corporation2kJapanese CLIP 模型 clip‑japanese‑base‑v2,升級至約 2 B 影像‑文字配對並 distillation,將 Eva02‑B 影像編碼器與 12 層 BERT 文本編碼器結合,以達到比其前身更高的 ImageNet‑1k 準確度 (0.708)。
研究領域相近的資源
- japanese-hubert-baseyky-h28k日本語 HuBERT Base,12 層 transformer 版本與 rinna 原始模型相同,訓練於約19,000 小時的 ReazonSpeech v1 日本語語音資料,並以 Apache 2.0 授權發佈。共同: 表示學習
- sarashina-embedding-v2-1bsbintuitions2kSarashina‑Embedding‑v2‑1B 是一個 1,792 維的日語句子變換器,透過多階段對比學習訓練,達到先進的 JMTEB 分數,可用於語義相似度、搜尋、同義句挖掘、分類和聚類,透過 Sentence‑Transformers 並可加上可選的指令前綴。共同: 表示學習
- ruri-v3-310mcl-nagoya634kRuri v3 是一個尖端的日本語文本嵌入模型,建立於 ModernBERT‑Ja,支援最多 8,192‑token 輸入、100K‑token 詞彙表、FlashAttention‑加速推論,以及多種尺寸變體,方便快速使用 sentence‑transformer。共同: 表示學習
- ruri-v3-30mcl-nagoya126kRuri v3 是一款最先進的日文文本嵌入模型,構建於 ModernBERT‑Ja,支持高達 8,192 tokens、一個 100k‑token 詞彙表、FlashAttention 加速,並提供從 37 M 到 315 M 參數的多種規模。共同: 表示學習
- ruri-v3-130mcl-nagoya93kRuri v3 是一款最先進的日本語文本嵌入模型,基於 ModernBERT‑Ja 建構,支援長達 8192‑token 序列、10 萬詞彙、FlashAttention,並以 30 M 到 310 M 參數大小提供,以供 sentence‑transformers 使用。共同: 表示學習
chiVeWorksApplications179使用Sudachi和NWJC的日語詞嵌入GitHub共同: 表示學習