Llama3 Swallow 是一款日本增強版 Meta Llama 3 系列,於 2024 年 7 月 1 日發布,提供 8B 與 70B 兩種版本,包含 Instruct 與 chat 形式,並使用 SFT 與 Chat Vector 在 Megatron‑LM 上微調,並在關鍵的日本 NLP 任務上進行基準測試。
其他語言的說明
統計
統計資料截至 2026年11月16日
Hugging Face 下載數(近 30 天)
9,000
Hugging Face 按讚數
21
收錄日
2024年7月5日
下載數(近 30 天)變化
以表格顯示
| 月份 | 下載(30天) |
|---|---|
| 2025年12月 | 9,000 |
| 2026年1月 | 9,000 |
| 2026年2月 | 21,000 |
| 2026年3月 | 10,000 |
| 2026年4月 | 9,000 |
| 2026年5月 | 11,000 |
| 2026年6月 | 9,000 |
| 2026年7月 | 8,000 |
| 2026年8月 | 9,000 |
| 2026年9月 | 9,000 |
| 2026年10月 | 9,000 |
| 2026年11月 | 9,000 |
各月最後一次快照時的近 30 天下載數。
同分類的熱門資源
- japanese-gpt-neox-smallrinna656k一個 12 層、768 隱藏層的日本 GPT‑NeoX 模型,訓練於 CC‑100、C4 和 Wikipedia,兼容 Huggingface,並可選擇使用一個玩具前綴調優權重,使每句結尾強制出現笑臉表情符號。
- Spark-X2.5-4B-Heretic-jp-ggufsoyaakinohara589k日本語対応 Spark-X2.5-4B 模型(Heretic JP),具備拒絕衰減、預訓練、指令調整與工具呼叫修復功能,提供從 BF16 至 Q4_K_M 的 GGUF 量化版本(約 2.5 GiB),可透過 llama.cpp 使用 1,048,576‑token 上下文。
- llm-jp-4-33b-thinking-ggufllm-jp271kLLM‑jp‑4‑33b‑thinking‑gguf 是來自日本情報院(National Institute of Informatics)的 33 B 日語模型,已使用 SFT 和 DPO(無 RL)進行預訓練,可透過 llama.cpp 的 LLM‑jp fork 使用,並在其食譜中包含詳細的使用說明。
- llm-jp-4.1-8b-thinkingllm-jp80kLLM‑jp‑4.1‑8b‑thinking 是日本國立情報學研究所(NII)LLM 研發中心開發的 33 B 轉換器語言模型,僅在中途訓練階段完成預訓練,並透過 SFT/DPO(不使用 RL)進行對齊,專為日語 NLP 任務設計,並於食譜與技術博客中進行說明。
- llm-jp-3-150mllm-jp75kLLM‑jp‑3‑150m — 來自日本情報學研究院 LLM 研發中心的 150M 參數日語語言模型,已以 Hugging Face Transformers 格式發佈,需安裝 torch ≥ 2.3.0、transformers ≥ 4.40.1、accelerate ≥ 0.29.3、flash‑attn ≥ 2.5.8,並以日語維基百科、Common Crawl、WARP/PDF、WARP/HTML 以及 Kaken 數據,使用 unigram byte‑fallback tokenizer 進行預訓練。
- llm-jp-4-8b-instructllm-jp49kllm‑jp‑4‑8b‑instruct 是 NII 的 LLM‑jp‑4 系列 4.1 B 參數的日語 LLM,先在大規模語料庫上進行預訓練,接著僅用監督式指令資料微調(不使用 DPO/REINFORCE),並附有類似食譜風格的使用指引與 byte‑fallback unigram tokenizer。
研究領域相近的資源
- Llama-3-70B-japanese-suzume-vector-v0.1mmnga9k實驗性日本模型,透過採用 chat‑vector 方法提取 lightblue/suzume‑llama‑3‑8B‑japanese 與 Meta‑Llama‑3‑8B‑Instruct 之間的差異,升樣後應用於 Meta‑Llama‑3‑70B‑Instruct,顯示變化不大,並計畫未來擴充。共同: 表示學習・語言模型
- llm-jp-3-1.8bllm-jp3k一套日本大型語言模型(1.8 b 至 172 b beta1,含 instruct 變體)來自 NII 研究發展中心,以 Hugging Face Transformers 格式打包,並在混合的日文、英文以及網路語料上預訓練,總 token 數量超過 1 trillion,需至少 torch ≥ 2.3、transformers ≥ 4.40、accelerate ≥ 0.29、flash‑attn ≥ 2.5。共同: 語言模型・語意文本處理
- japanese-gpt-1brinna2k一個 1.3‑B‑parameter、24‑layer transformer GPT‑1B,在 Japanese C4、CC‑100 以及 Wikipedia 上訓練,於 2022 年 1 月 26 日由 rinna Co. 發布,並以 MIT license 供使用。共同: 語言模型・語意文本處理
- gpt-neox-japanese-2.7babeja3k一個 2.7‑B 參數的日語 GPT‑NeoX 模型,由 ABEJA Inc 在日語 CC‑100 與 OSCAR 上訓練,可透過 Hugging Face Transformers pipelines 或 PyTorch 使用,並以 MIT 授權釋出。共同: 語言模型・語意文本處理
AISisterAIChanmanju-summoner29這是搭載了ChatGPT3.5的伺か鬼「AI妹アイちゃん」。使用需要另外準備ChatGPT的API金鑰。GitHub共同: 語言模型・語意文本處理
text-generationdiscus043419易於使用的腳本,可調整GPT-2-JA與您自己的文本,生成句子並自動發推文。GitHub共同: 語言模型・語意文本處理