
使用經過日語翻譯的Stanford Alpaca資料集,進行LLaMA的微調並創建了Low-Rank Adapter,以下是其連結和生成樣本程式碼。
其他語言的說明
統計
統計資料截至 2026年11月17日
GitHub Star 數
141
±0 (10月13日〜)
最後提交
2023年4月
GitHub 建立日期
2023年3月22日
收錄日
2023年3月27日
Star 數變化
以表格顯示
| 月份 | Star |
|---|---|
| 2025年12月 | 141 |
| 2026年1月 | 141 |
| 2026年2月 | 141 |
| 2026年3月 | 141 |
| 2026年4月 | 141 |
| 2026年5月 | 141 |
| 2026年6月 | 141 |
| 2026年7月 | 141 |
| 2026年8月 | 141 |
| 2026年9月 | 141 |
| 2026年10月 | 141 |
| 2026年11月 | 141 |
各月最後一次快照。1,000 以上的 Star 數以 100 為單位四捨五入。
同分類的熱門資源
lukestudio-ousia727LUKE -- 基於知識嵌入的語言理解
bert-japanesecl-tohoku551日文文本的BERT模型。
bert-japaneseyoheikikuta497使用SentencePiece的BERT模型進行日文文本處理。
gpt2-japanesetanreinama322日本語GPT2生成モデル
japanese-dialog-transformersnttcslab247NTT有限公司提供的評估日語預訓練模型的代碼。
DistilBERT-base-jpBandaiNamcoResearchInc161一個在維基百科上訓練的日本DistilBERT預訓練模型。
研究領域相近的資源
- deberta-v2-base-japanese-char-wwmku-nlp24k一個以 171 GB 日本維基百科、CC‑100 與 OSCAR 文本預訓練的日語 DeBERTa‑V2 基礎模型,採用字元級分詞、全詞遮罩模式,已在 8 台 A100 GPU 上訓練 20 天,並準備好進行下游微調。HF 模型共同: 語言模型・表示學習
- modernbert-ja-30msbintuitions3kModernBERT‑Ja‑30M 是一款日語 BERT 變體,它將局部與全局注意力與 RoPE 混合起來,並在 4.39 TB 的日英文本上訓練,支援 8,192‑token 序列,參數規模從 30 M 至 130 M,並在使用 Flash Attention 2 時表現最佳。HF 模型共同: 語言模型・表示學習
- modernbert-ja-70msbintuitions2kModernBERT‑Ja‑70M 是一款輕量級的日語 BERT 變體,結合局部與全局注意力與 RoPE,使用 4.39 T 混合語言令牌(詞彙表 102 400,最大 8 192 令牌)訓練,支援 Flash Attention 2,並提供 30 M 至 310 M 參數的多種規格。HF 模型共同: 語言模型・表示學習
- bert-large-japanese-v2tohoku-nlp66kJapanese‑BERT‑Large 在 CC‑100 和 Wikipedia 上訓練,使用 Unidic‑lite 詞級分詞,結合 WordPiece 子詞與全詞遮蔽,模型為 24 層、1024 維隱藏、16 頭、32k 詞表;預訓練程式碼位於 cl‑tohoku/bert‑japanese。HF 模型共同: 表示學習・語言模型
- bert-base-japanese-v3tohoku-nlp66kJapanese BERT‑base (12 層, 768‑維度隱藏, 12 頭, 32k 詞彙) 以完整詞遮蔽在 CC‑100 與 2023‑Jan Wikipedia 上預訓練,使用 Unidic 2.1.2 詞級分詞加 WordPiece,訓練 200 萬步。HF 模型共同: 表示學習・語言模型
Laboro-BERT-Japaneselaboroai73Laboro BERT 日語:使用 Web-Corpus 預訓練的日語 BERT共同: 表示學習・語言模型