一個擁有 10 億參數的日語語言模型,經過三階段訓練——使用合成資料進行數學/程式碼任務,再在應用任務上微調——在 NIILC、JMMLU、MGSM‑ja 與 JHumanEval 基準測試中優於更大規模的前身,但仍未針對指令跟隨進行調整。
其他語言的說明
統計
統計資料截至 2026年11月16日
Hugging Face 下載數(近 30 天)
1,000
Hugging Face 按讚數
14
收錄日
2026年6月2日
同分類的熱門資源
- bert-base-japanese-char-v3tohoku-nlp130kJapanese‑language BERT‑Base(12層,768‑次元,12頭)以 Unidic 為基礎的單詞層級加字符層級標記化以及整詞遮蔽,在 CC‑100 和 2023 Wikipedia 上進行預訓練,產生了 7,027‑token 詞彙。
- bert-large-japanese-v2tohoku-nlp66kJapanese‑BERT‑Large 在 CC‑100 和 Wikipedia 上訓練,使用 Unidic‑lite 詞級分詞,結合 WordPiece 子詞與全詞遮蔽,模型為 24 層、1024 維隱藏、16 頭、32k 詞表;預訓練程式碼位於 cl‑tohoku/bert‑japanese。
- bert-base-japanese-v3tohoku-nlp66kJapanese BERT‑base (12 層, 768‑維度隱藏, 12 頭, 32k 詞彙) 以完整詞遮蔽在 CC‑100 與 2023‑Jan Wikipedia 上預訓練,使用 Unidic 2.1.2 詞級分詞加 WordPiece,訓練 200 萬步。
- kana-whispersbintuitions42k一個經過微調的 Whisper large-v3-turbo 模型,能將日語語音轉錄成片假名,作為 Sarashina2.2-TTS 專案內 Joyo Kanji Yomi Benchmark 的 ASR 組件,同時驅動 Kana CER Usage With Transformers 管道。
- t5-base-japanese-v1.1sonoisa17k一個以約 100 GB 的 Wikipedia 與 OSCAR CC‑100 數據(混合 10:1、Byte‑fallback 的 SentencePiece)預訓練的日本 T5‑v1.1 模型,需對下游任務進行微調,包含遷移學習範例程式碼,提示輸出可能存在偏差,且採用 CC‑BY‑SA 4.0 授權。
- deberta-v3-base-japaneseku-nlp13k日文 DeBERTa V3 基礎版本,預訓練於 LLM‑jp v1.0 的 540 B 個 token,使用已調整的 DeBERTa V3 設定,採用 unigram byte‑fallback tokenizer(無形態學分析器),並進行 fine‑tuned 於 JGLUE NLU 任務。