一款 1.3‑B‑parameter、24‑layer transformer GPT‑1B,使用 Japanese C4、CC‑100 和 Wikipedia 进行训练,于 2022 年 1 月 26 日由 rinna Co. 发布,并在 MIT license 下公开。
其他语言的说明
统计
统计数据截至 2026年11月16日
Hugging Face 下载数(近 30 天)
2,000
Hugging Face 点赞数
108
收录日
—
自页面创建时收录
下载数(近 30 天)变化
以表格显示
| 月份 | 下载(30天) |
|---|---|
| 2025年12月 | 1,000 |
| 2026年1月 | — |
| 2026年2月 | — |
| 2026年3月 | 5,000 |
| 2026年4月 | 3,000 |
| 2026年5月 | 4,000 |
| 2026年6月 | 1,000 |
| 2026年7月 | — |
| 2026年8月 | — |
| 2026年9月 | 1,000 |
| 2026年10月 | 1,000 |
| 2026年11月 | 2,000 |
各月最后一次快照时的近 30 天下载数。
同分类的热门资源
- japanese-gpt-neox-smallrinna656k一个 12 层、768 隐藏层的日语 GPT‑NeoX 模型,训练数据为 CC‑100、C4 以及 Wikipedia,兼容 Huggingface,并配备可选的玩具前缀调优权重,能强制每个句子末尾以笑脸表情符号结束。
- Spark-X2.5-4B-Heretic-jp-ggufsoyaakinohara589k日语适配版 Spark‑X2.5‑4B 模型(Heretic JP),具备拒绝衰减、预训练、指令调优和工具调用修复功能,可在 BF16 至 Q4_K_M 的 GGUF 量化版本中使用,约 2.5 GiB,支持 llama.cpp 的 1,048,576‑token 上下文。
- llm-jp-4-33b-thinking-ggufllm-jp271kLLM‑jp‑4‑33b‑thinking‑gguf 是日本国立信息学研究所的 33 B 日语语言模型,已使用 SFT 和 DPO(无 RL)预训练,可通过 LLM‑jp fork 在 llama.cpp 上使用,并在其 cookbook 中提供详细使用说明。
- llm-jp-4.1-8b-thinkingllm-jp80kLLM‑jp‑4.1‑8b‑thinking 是日本国立信息学研究所(NII)LLM 研发中心的一个 33 B Transformer 语言模型,采用中途预训练方式,并通过 SFT/DPO 对齐(无 RL),旨在用于日语 NLP 任务,并已在菜谱和技术博客中进行记录。
- llm-jp-3-150mllm-jp75kLLM‑jp‑3‑150m——来自国立信息学研究所LLM研发中心的150 M参数日语语言模型——以 Hugging Face Transformers 格式发布,需要 torch ≥ 2.3.0、transformers ≥ 4.40.1、accelerate ≥ 0.29.3、flash‑attn ≥ 2.5.8,并且在日本维基百科、Common Crawl、WARP/PDF、WARP/HTML 和 Kaken 数据上使用 unigram byte‑fallback tokenizer 进行预训练。
- llm-jp-4-8b-instructllm-jp49kllm‑jp‑4‑8b‑instruct 是 NII 的 LLM‑jp‑4 系列 4.1 B 参数的日语 LLM,先在大型语料库上预训练,随后仅使用监督指令数据进行微调(不使用 DPO/REINFORCE),并附带类似食谱的使用指南和 byte‑fallback unigram tokenizer。
研究领域相近的资源
- llm-jp-3-1.8bllm-jp3k来自 NII 研发中心的日本大型语言模型集合(1.8 b 至 172 b beta1,含 instruct 版本),以 Hugging Face Transformers 格式打包,并在混合日语、英语与网络语料库(总计>1万亿个标记)上预训练。需要 torch ≥ 2.3、transformers ≥ 4.40、accelerate ≥ 0.29 以及 flash‑attn ≥ 2.5。共同: 语言模型・语义文本处理
- deberta-v3-base-japaneseku-nlp13kJapanese DeBERTa V3 base 在 LLM‑jp v1.0 的 540 B tokens 上预训练,使用经过修改的 DeBERTa V3 设置训练,采用 unigram byte‑fallback tokenizer(不使用形态学分析器),并针对 JGLUE NLU 任务进行微调。共同: 语言模型・语义文本处理
- Llama-3-Swallow-8B-Instruct-v0.1tokyotech-llm9kLlama3 Swallow 是 Meta Llama 3 系列的日语增强版本,于 2024 年 7 月 1 日发布,提供 8B 与 70B 版本的 Instruct 与 chat 模式,已在 Megatron‑LM 上使用 SFT 与 Chat Vector 进行微调,并在关键的日语 NLP 任务上进行了基准测试。共同: 语言模型・语义文本处理
- Llama-3-70B-japanese-suzume-vector-v0.1mmnga9k实验性日语模型通过使用聊天向量方法提取 lightblue/suzume‑llama‑3‑8B‑japanese 与 Meta‑Llama‑3‑8B‑Instruct 之间的差异创建,然后上采样并应用于 Meta‑Llama‑3‑70B‑Instruct,显示出变化不大,并计划未来扩大规模。共同: 语言模型・语义文本处理
- gpt-neox-japanese-2.7babeja3k一款由 ABEJA Inc. 使用日语 CC‑100 和 OSCAR 训练的 2.7B 参数日语 GPT‑NeoX 模型,可通过 Hugging Face Transformers 管道或 PyTorch 使用,按 MIT 许可证发布。共同: 语言模型・语义文本处理
AISisterAIChanmanju-summoner29这是搭载了ChatGPT3.5的伺かGhost“AI妹妹爱酱”。使用需要另外获取ChatGPT的API密钥。GitHub共同: 语言模型・语义文本处理