大型語言模型(LLM)與 ChatGPT 相關
10.1 LLM 開發專案
近年來,支援日語的大型語言模型開發日趨活躍,多個大型專案正在進行中。
LLM-jp 專案:以國立情報學研究所(NII)為核心的 LLM 研究會的成果。
- llm-jp-eval(Stars:175):LLM 自動評估工具
- llm-jp-sft(Stars:66):監督式微調
- llm-jp-tokenizer(Stars:54):LLM 分詞器
- llm-jp-corpus(Stars:49):訓練語料庫
- llm-jp-eval-mm(Stars:44):多模態 LLM 評估
- llm-jp-judge(Stars:64):自動生成評估
- llm-jp-vila(Stars:10):基於 VILA 的 VLM 訓練
Swallow 專案:以東京工業大學為核心的日語 LLM 開發專案。
- swallow-evaluation(Stars:26):評估腳本
- swallow-evaluation-instruct(Stars:34):訓練後模型評估
- swallow-corpus(Stars 未列出):大規模日語網路語料庫
shisa-v2(shisa-ai/shisa-v2):日英雙語 LLM。Stars:35。
OneCompression(FujitsuResearch/OneCompression,Stars:445):富士通研究所提供的 LLM 專用後訓練量化(PTQ)流程,整合了 QEP(NeurIPS 2025)、ILP 混合精度、旋轉前處理、vLLM 插件,為高效本地 LLM 推理提供一站式解決方案。
Hugging Face 上的日語 LLM
在 Hugging Face 的文字生成類別中,已發布眾多日語 LLM。下面列出下載數最高的模型。
| 模型名 | HF 下載 | 按讚數 | 開發者 | 說明 |
|---|---|---|---|---|
| llm-jp-4.1-8b-thinking | 80k | 18 | NII/LLM-jp | llm-jp-4.1 系列的 8B 推理模型 |
| llm-jp-4-8b-instruct | 49k | 16 | NII/LLM-jp | llm-jp-4 系列 8B 指令微調模型 |
| sarashina2.2-3b-instruct-v0.1 | 16k | 39 | SB Intuitions | 自回歸日語模型 |
| Llama-3-Swallow-8B-Instruct-v0.1 | 9k | 21 | 東京工業大學 | Meta Llama 3 日語擴充 |
| Llama-3.1-Swallow-8B-Instruct-v0.5 | 7k | 20 | 東京工業大學 | 以合成日語資料訓練 |
| Mistral-Nemo-Japanese-Instruct-2408 | 6k | 49 | CyberAgent | Mistral-Nemo 日語版 |
| LFM2.5-1.2B-JP-202606 | 4k | 82 | Liquid AI | 混合架構 |
| Llama-3-ELYZA-JP-8B | 4k | 150 | ELYZA | 150 個按讚數的高人氣 |
| llm-jp-4-8b-thinking | 3k | 52 | NII/LLM-jp | 支援推理軌跡生成的 8B 模型 |
| NVIDIA-Nemotron-Nano-9B-v2-Japanese | 3k | 146 | NVIDIA | Mamba-2/MLP/Attention 混合 |
| llm-jp-4-32b-a3b-thinking | 2k | 40 | NII/LLM-jp | MoE 架構的 32B 推理模型 |
| TinySwallow-1.5B-Instruct | 2k | 61 | Sakana AI | 透過 TAID 蒸餾的輕量模型 |
向推理(thinking)系模型的轉移持續進行。新發布的 llm-jp-4.1-8b-thinking(80k/週)成為本表首位,GGUF 格式的 llm-jp-4-33b-thinking-gguf(271k/週,全日語 NLP 模型第 10 名)也大幅成長。另一方面,上次居前的 llm-jp-4-8b-thinking(21k→3k/週)與 llm-jp-4-32b-a3b-thinking(16k→2k/週)隨 4.1 系列登場而減少,指令微調版 llm-jp-4-8b-instruct(49k/週)則表現穩健。NVIDIA-Nemotron-Nano-9B-v2-Japanese 維持在 3k/週,但其 146 個按讚數依然處於高水準。
Swallow 專案在 Hugging Face 上也極為活躍,將 Llama 3/3.1、Gemma 2、GPT-OSS、Qwen3 等多樣化基礎模型擴展到日語。特別是 GPT-OSS-Swallow 提供 20B 及 120B 參數的大型模型,在強化日語能力的同時維持數學和程式設計能力。
ELYZA 系列獲得社群的強力支持,按讚數高(Llama-3-ELYZA-JP-8B:150 個按讚,ELYZA-japanese-Llama-2-7b-instruct:75 個按讚)。
TinySwallow-1.5B(Sakana AI)是使用 TAID 蒸餾技術從 Qwen2.5-32B-Instruct 蒸餾而來的模型,展示了小巧但高效能日語模型的可能性。
LFM2.5-1.2B-JP(Liquid AI):採用結合 Mamba-2 和 MLP 的混合架構,實現 JMMLU 50.7、M-IFEval 58.1、GSM8K 56.0 的成績。2026 年 6 月版(LFM2.5-1.2B-JP-202606)為 4k/週(82 個按讚數),並同時提供 ONNX 與 GGUF 格式,其中 GGUF 版以 8k/週的下載量超過原版。
10.2 ChatGPT/LLM 應用
ChatGPT 和 LLM 的日語應用涵蓋廣泛範圍。
對話 / 聊天機器人:
- ChatdollKit(Stars:1,300):將 3D 模型轉換為聊天機器人的 Unity 工具包
- aiavatarkit(Stars:704):建構基於 AI 的對話虛擬角色
- chatvrm(Stars:848):pixiv 的 VRM 角色對話示範
VTuber / 虛擬角色:
- gptuber-by-langchain(Stars:63):讓 GPT 扮演 YouTuber 的系統
- VRChatGPT(Stars:15):在 VRChat 上的對話
- AITuberDegikkoMirii(Stars:5):AITuber 平台
RAG(檢索增強生成):
- RAG-Japanese / rag-japanese(Stars:10):日語 LLM 的 RAG
- azure-search-openai-demo(Stars:46):RAG 模式的日語實作
- wikipedia-japanese-open-rag:使用日語 Wikipedia 的 RAG
提示工程:
- chatgpt-prompt-sample-japanese(Stars:431):日語提示範例
10.3 評估基準測試
- IgakuQA(Stars:52):GPT-4/ChatGPT 在日本醫師執照考試上的評估
- Japanese-RP-Bench:日語角色扮演能力基準測試
- japanese-llm-roleplay-benchmark(Stars:42):LLM 角色扮演評估
- pfmt-bench-fin-ja(Stars:9):日語金融基準測試
- igakuqa119(Stars:10):第 119 次日本醫師執照考試的 LLM 評估
- jmle2026-bench(Stars:11):第 120 屆日本醫師執照考試 LLM 基準測試(2026 年 2 月舉行)
- japanese-hr-niah(kufu):日語人事勞務領域長文本 LLM 性能評估(Needle-In-A-Haystack 形式)
- Doppelganger-JC:中日跨語言同形異義詞誤用基準測試
- JMultiWOZ-TC(llm-jp):多輪對話場景中的代理 Function Calling 評估