自然言語処理

PyTorch
HuggingFace Tokenizers 0.10 : メモリから訓練 (python) (翻訳/解説)

【HF Tokenizers 0.10 : メモリから訓練 (python)】 クイックツアーではテキストファイルを使用してトークナイザーをどのように構築して訓練するかを見ましたが、実際には任意の Python Iter […]

続きを読む
PyTorch
HuggingFace Tokenizers 0.10 : トークン化パイプライン (python) (翻訳/解説)

【HF Tokenizers 0.10 : トークン化パイプライン (python)】 HF Transformers のトークナイザーは HF Tokenizers に依存しています。切り捨て、パディングやモデルが必要 […]

続きを読む
PyTorch
HuggingFace Tokenizers 0.10 : Quicktour (python) (翻訳/解説)

【HF Tokenizers 0.10 : Quicktour (python)】 HuggingFace Transformers のトークナイザーは HuggingFace Tokenizers に依存しています。切 […]

続きを読む
イベント
【2021年06月23日(水):ウェビナー】人工知能テクノロジーを実ビジネスで活用するには?Vol.106

人工知能テクノロジーを実ビジネスで活用するには?Vol.106 ~ 具体的な導入プロセスと運用の考慮ポイントを解説 ~ 【特別講演】Microsoft Azure Machine Learning アップデートと最新事例 […]

続きを読む
PyTorch
HuggingFace Tokenizers 0.10 : 概要 | Python バインディング概要 (翻訳/解説)

【HF Tokenizers 0.10 : 概要 | Python バインディング概要】 HF Transformers のトークナイザーは HF Tokenizers に依存しています。切り捨て、パディングやモデルが必 […]

続きを読む