Tanuki‑8B‑dpo‑v1.0‑GGUF 是 GENIAC 的 Tanuki 项目中使用 GGUF 量化的 LLM,基于 weblab‑GENIAC/Tanuki‑8B‑dpo‑v1.0 并使用 Wikitext‑JA 进行矩阵计算,建议用户使用其他量化格式,如 AWQ 4bit、GPTQ 4/8bit,或参考原始模型获取详细信息。
其他语言的说明
统计
统计数据截至 2026年11月16日
Hugging Face 下载数(近 30 天)
1,000
Hugging Face 点赞数
5
收录日
2024年9月4日
同分类的热门资源
- deberta-v3-base-japaneseku-nlp13kJapanese DeBERTa V3 base 在 LLM‑jp v1.0 的 540 B tokens 上预训练,使用经过修改的 DeBERTa V3 设置训练,采用 unigram byte‑fallback tokenizer(不使用形态学分析器),并针对 JGLUE NLU 任务进行微调。
- Llama-3.1-Swallow-8B-Instruct-v0.5-ggufmmnga7k由 tokyotech‑llm 完成的 Llama‑3.1‑Swallow‑8B‑Instruct‑v0.5 的 GGUF 转换,结合 TFMC/imatrix‑dataset‑for‑japanese‑LLM,附带用于 llama.cpp 的 Build/Run 指令。
- sarashina2.2-3b-instruct-v0.1-ggufmmnga4k一个 GGUF 格式的 sbintuitions 的 sarashina2.2-3b-instruct-v0.1 模型转换,使用 TFMC/imatrix-dataset-for-japanese-llm 构建,准备通过 llama.cpp 进行 CUDA 启用推理。
- llm-jp-3.1-13b-instruct4-ggufmmnga4k一个 GGUF 格式的 llm-jp-3.1-13b-instruct4 版本,使用 TFMC/imatrix-dataset-for-japanese-llm 的 imatrix 数据构建,可通过 llama.cpp 在 CUDA 上用于日语语言任务。
- Llama-3-ELYZA-JP-8B-ggufmmnga4k由 elyza 制作的 GGUF 转换版 Llama‑3‑ELYZA‑JP‑8B,使用 TFMC/imatrix‑dataset‑for‑japanese‑LLM 构建,已准备好与 llama.cpp 一起使用。
- llm-jp-3.1-1.8b-instruct4-ggufmmnga3k一个 GGUF 格式的 llm‑jp‑3.1‑1.8b‑instruct4 版本,基于 TFMC/imatrix‑dataset‑for‑japanese‑llm 构建,可与 llama.cpp 的 CUDA build 一起用于日语 LLM 推理。
研究领域相近的资源
- japanese-gpt-neox-smallrinna656k一个 12 层、768 隐藏层的日语 GPT‑NeoX 模型,训练数据为 CC‑100、C4 以及 Wikipedia,兼容 Huggingface,并配备可选的玩具前缀调优权重,能强制每个句子末尾以笑脸表情符号结束。共同: 大语言模型
- Spark-X2.5-4B-Heretic-jp-ggufsoyaakinohara589k日语适配版 Spark‑X2.5‑4B 模型(Heretic JP),具备拒绝衰减、预训练、指令调优和工具调用修复功能,可在 BF16 至 Q4_K_M 的 GGUF 量化版本中使用,约 2.5 GiB,支持 llama.cpp 的 1,048,576‑token 上下文。共同: 大语言模型
- llm-jp-4-33b-thinking-ggufllm-jp271kLLM‑jp‑4‑33b‑thinking‑gguf 是日本国立信息学研究所的 33 B 日语语言模型,已使用 SFT 和 DPO(无 RL)预训练,可通过 LLM‑jp fork 在 llama.cpp 上使用,并在其 cookbook 中提供详细使用说明。共同: 大语言模型
- llm-jp-4.1-8b-thinkingllm-jp80kLLM‑jp‑4.1‑8b‑thinking 是日本国立信息学研究所(NII)LLM 研发中心的一个 33 B Transformer 语言模型,采用中途预训练方式,并通过 SFT/DPO 对齐(无 RL),旨在用于日语 NLP 任务,并已在菜谱和技术博客中进行记录。共同: 大语言模型
- llm-jp-3-150mllm-jp75kLLM‑jp‑3‑150m——来自国立信息学研究所LLM研发中心的150 M参数日语语言模型——以 Hugging Face Transformers 格式发布,需要 torch ≥ 2.3.0、transformers ≥ 4.40.1、accelerate ≥ 0.29.3、flash‑attn ≥ 2.5.8,并且在日本维基百科、Common Crawl、WARP/PDF、WARP/HTML 和 Kaken 数据上使用 unigram byte‑fallback tokenizer 进行预训练。共同: 大语言模型
- llm-jp-4-8b-instructllm-jp49kllm‑jp‑4‑8b‑instruct 是 NII 的 LLM‑jp‑4 系列 4.1 B 参数的日语 LLM,先在大型语料库上预训练,随后仅使用监督指令数据进行微调(不使用 DPO/REINFORCE),并附带类似食谱的使用指南和 byte‑fallback unigram tokenizer。共同: 大语言模型