
「BERTによる自然言語処理入門: Transformersを使った実践プログラミング」サポートページ
他の言語の説明
統計
2026年11月17日時点の統計
GitHub の Star 数
265
±0 (10月13日〜)
最終コミット
2024年2月
GitHub での作成日
2021年2月4日
掲載日
2022年7月28日
Star 数の推移
数値を表で見る
| 月 | Star |
|---|---|
| 2025年12月 | 263 |
| 2026年1月 | 264 |
| 2026年2月 | 264 |
| 2026年3月 | 264 |
| 2026年4月 | 263 |
| 2026年5月 | 265 |
| 2026年6月 | 265 |
| 2026年7月 | 265 |
| 2026年8月 | 265 |
| 2026年9月 | 265 |
| 2026年10月 | 265 |
| 2026年11月 | 265 |
各月の最後のスナップショット。Star 数は 1,000 以上では 100 単位に丸められています。
同じカテゴリで人気のリソース
bert-classification-tutorialhppRC232【2023年版】BERTによるテキスト分類
fastTextJapaneseTutorialicoxfog417200日本語コーパスを使用してfastTextをトレーニングするチュートリアル
spacy_tutorialyuibi65spaCyチュートリアルの英語版と日本語版。spacy-transformers、BERT、GiNZA。
bert-classification-tutorial-2024hpprc31【2024年版】BERTによるテキスト分類
BERT_Japanese_Google_ColaboratoryYutaroOgawa29Google Colaboratoryで日本語のBERTを動かす方法です。
llm-bookghmagazine478「大規模言語モデル入門」(技術評論社, 2023)のGitHubリポジトリ
研究分野が近いリソース
awesome-bert-japanesehimkt132日本語の事前学習済みBERTモデルのリストと、単語/サブワードトークン化+語彙構築アルゴリズム情報。共通: 言語モデル・意味的テキスト処理- modernbert-ja-310msbintuitions36kModernBERT‑Ja‑310M は local‑global attention と RoPE を組み合わせた日本語 BERT 変種で、4.09 T tokens の日本語/英語テキストで訓練され、102 400語の語彙、8 192トークンのシーケンスをサポートし、Flash Attention 2 用に最適化されています。HF モデル共通: 言語モデル・意味的テキスト処理
- deberta-v2-base-japaneseku-nlp24k日本語 DeBERTa V2 ベースモデルは、171 GBの日本語 Wikipedia、CC‑100、OSCAR データを用いて Juman++ セグメンテーションと SentencePiece トークン化で事前学習され、8枚の NVIDIA A100 GPU を 3週間使用してトレーニングされ、ファインチューニングに向けて準備ができています。HF モデル共通: 言語モデル・意味的テキスト処理
- modernbert-ja-130msbintuitions12k132 Mパラメータの日本語 ModernBERT モデルで、ローカルグローバルとRoPE注意を組み合わせ、4.39 T トークン(日本語/英語)で訓練され、102 kサイズの語彙、最大8,192トークン長、Flash Attention 2 に最適化されていますHF モデル共通: 言語モデル・意味的テキスト処理
GPTSANtanreinama119汎用スイッチトランスをベースにした日本語モード共通: 言語モデル・意味的テキスト処理
bertinformatix-inc28このリポジトリは、日本語コーパスで事前学習されたRoBERTaを使用するためのスニペットを提供しています。私たちのデータセットは、日本語のWikipediaとWebスクロールされた記事で、合計25GBです。リリースされたモデルは、HuggingFaceからのものをベースに構築されています。共通: 言語モデル・意味的テキスト処理