
此存儲庫包含了LLM-jp模型的監督微調代碼。
其他語言的說明
統計
統計資料截至 2026年11月17日
GitHub Star 數
66
+1 (10月13日〜)
最後提交
2024年6月
GitHub 建立日期
2023年10月11日
收錄日
2023年10月23日
Star 數變化
以表格顯示
| 月份 | Star |
|---|---|
| 2025年12月 | 62 |
| 2026年1月 | 62 |
| 2026年2月 | 62 |
| 2026年3月 | 62 |
| 2026年4月 | 62 |
| 2026年5月 | 62 |
| 2026年6月 | 62 |
| 2026年7月 | 62 |
| 2026年8月 | 62 |
| 2026年9月 | 63 |
| 2026年10月 | 65 |
| 2026年11月 | 66 |
各月最後一次快照。1,000 以上的 Star 數以 100 為單位四捨五入。
同分類的熱門資源
llm-lora-classificationhppRC97llm-lora-classification
llm-jp-tokenizerllm-jp54這是一個整理了在LLM勉強會(LLM-jp)中開發的與LLM用戶端相關的分詞器的存儲庫。
japanese-llm-rankingyuzu-ai50這個儲存庫支援YuzuAI的Rakuda排行榜,該排行榜是日本語言模型的日本專用版本,類似於LMSYS的Vicuna評估。
japanese-llm-roleplay-benchmarkoshizo42這個存儲庫是為了評估日本語LLM的角色扮演性能而創建的。
jmlm_scoringminhpqn5基於遮蔽語言模型的日語和越南語評分
t5_japanese_dialogue_generationJinyamyzk3使用T5生成對話
研究領域相近的資源
- deberta-v3-base-japaneseku-nlp13k日文 DeBERTa V3 基礎版本,預訓練於 LLM‑jp v1.0 的 540 B 個 token,使用已調整的 DeBERTa V3 設定,採用 unigram byte‑fallback tokenizer(無形態學分析器),並進行 fine‑tuned 於 JGLUE NLU 任務。HF 模型共同: 語言模型・語意文本處理
gpt2-japanesetanreinama322日本語GPT2生成モデル共同: 語言模型・語意文本處理
t5-japanesemegagonlabs39預訓練日語T5模型的代碼共同: 語言模型・語意文本處理- japanese-gpt-neox-smallrinna656k一個 12 層、768 隱藏層的日本 GPT‑NeoX 模型,訓練於 CC‑100、C4 和 Wikipedia,兼容 Huggingface,並可選擇使用一個玩具前綴調優權重,使每句結尾強制出現笑臉表情符號。HF 模型共同: 語言模型・語意文本處理
- llm-jp-3-150mllm-jp75kLLM‑jp‑3‑150m — 來自日本情報學研究院 LLM 研發中心的 150M 參數日語語言模型,已以 Hugging Face Transformers 格式發佈,需安裝 torch ≥ 2.3.0、transformers ≥ 4.40.1、accelerate ≥ 0.29.3、flash‑attn ≥ 2.5.8,並以日語維基百科、Common Crawl、WARP/PDF、WARP/HTML 以及 Kaken 數據,使用 unigram byte‑fallback tokenizer 進行預訓練。HF 模型共同: 語言模型・語意文本處理
- modernbert-ja-310msbintuitions36kModernBERT‑Ja‑310M 是一款日語 BERT 變體,結合了 local‑global attention 與 RoPE,已在 4.09 T 個日語/英語文本 token 上訓練,支持 102 400 個詞彙、8 192 token 序列,並被優化以配合 Flash Attention 2。HF 模型共同: 語言模型・語意文本處理