
日本語に翻訳したStanford Alpacaのデータセットを用いてLLaMAをファインチューニングし作成したLow-Rank AdapterのリンクとGenerateサンプルコード
他の言語の説明
統計
2026年11月17日時点の統計
GitHub の Star 数
141
±0 (10月13日〜)
最終コミット
2023年4月
GitHub での作成日
2023年3月22日
掲載日
2023年3月27日
Star 数の推移
数値を表で見る
| 月 | Star |
|---|---|
| 2025年12月 | 141 |
| 2026年1月 | 141 |
| 2026年2月 | 141 |
| 2026年3月 | 141 |
| 2026年4月 | 141 |
| 2026年5月 | 141 |
| 2026年6月 | 141 |
| 2026年7月 | 141 |
| 2026年8月 | 141 |
| 2026年9月 | 141 |
| 2026年10月 | 141 |
| 2026年11月 | 141 |
各月の最後のスナップショット。Star 数は 1,000 以上では 100 単位に丸められています。
同じカテゴリで人気のリソース
lukestudio-ousia727LUKE -- 知識ベース埋め込みを用いた言語理解
bert-japanesecl-tohoku551日本語テキスト用のBERTモデル。
bert-japaneseyoheikikuta497日本語テキスト用のSentencePieceを使用したBERT。
gpt2-japanesetanreinama322日本語GPT2生成モデル
japanese-dialog-transformersnttcslab247NTT株式会社が提供する日本語事前学習モデルの評価コード。
DistilBERT-base-jpBandaiNamcoResearchInc161日本語のDistilBERT事前学習モデルで、Wikipediaで訓練されました。
研究分野が近いリソース
- deberta-v2-base-japanese-char-wwmku-nlp24k日本語のDeBERTa‑V2ベースモデルで、171 GBの日本語Wikipedia、CC‑100、およびOSCARテキストをキャラクターレベルトークン化とワードレベルマスクで事前学習し、8台のA100 GPUで20日間訓練済みで、下流のファインチューニングに準備完了です。HF モデル共通: 言語モデル・表現学習
- modernbert-ja-30msbintuitions3kModernBERT‑Ja‑30Mは、ローカルおよびグローバル注意機構をRoPEと組み合わせた日本語BERTバリアントです。4.39 TBの日本語/英語テキストで訓練され、8,192トークンのシーケンスをサポートし、30 Mから130 Mパラメータのサイズで提供され、Flash Attention 2との組み合わせで最も効果的です。HF モデル共通: 言語モデル・表現学習
- modernbert-ja-70msbintuitions2kModernBERT‑Ja‑70M は、ローカルとグローバル注意を RoPE と組み合わせた軽量な日本語 BERT 変種です。4.39 T の混合言語トークンでトレーニングされ、語彙数 102 400、最大 8 192 トークンをサポートし、Flash Attention 2 に対応しています。パラメータ数は 30 M から 310 M の複数サイズで提供されます。HF モデル共通: 言語モデル・表現学習
- bert-large-japanese-v2tohoku-nlp66kJapanese‑BERT‑Large は CC‑100 と Wikipedia に対して訓練され、Unidic‑lite のワードレベルトークナイゼーションを使用し、WordPiece サブワードとホールワードマスクリングを採用しています(24 層、隠れ層 1024 次元、16 ヘッド、32k 語彙)。プリトレーニングコードは cl‑tohoku/bert‑japanese にあります。HF モデル共通: 表現学習・言語モデル
- bert-base-japanese-v3tohoku-nlp66kJapanese BERT‑base(12層、768次元の隠れ層、12ヘッド、32k語彙)は、CC‑100と2023‑Jan Wikipediaで全単語マスキングを用いて事前学習され、Unidic 2.1.2の単語レベルトークナイゼーション+WordPieceを併用し、200万ステップで学習しました。HF モデル共通: 表現学習・言語モデル
Laboro-BERT-Japaneselaboroai73ラボロBERT日本語:Webコーパスで事前学習された日本語BERT共通: 表現学習・言語モデル