TensorFlow 2.0 : 上級 Tutorials : テキスト :- 言語理解のための Transformer モデル (翻訳/解説)

【TensorFlow 2.0 上級 Tutorials : テキスト】
◆ 言語理解のための Transformer モデル
TensorFlow 2.0 ステーブル版がリリースされましたので、チュートリアルやガイド等のドキュメントの最終的な翻訳をしています。
今回は上級チュートリアル「テキスト」カテゴリーから、最先端モデルの Transformer を詳解したチュートリアルです。Transformer をどのように作成するか、そして自己-attention、位置エンコーディング、マルチヘッド attention、マスキングの重要性等について学習します。
上級チュートリアルは「カスタマイズ」「分散訓練」「画像」「テキスト」「構造化データ」「生成」のカテゴリーに分かれています。

TensorFlow 2.0 : 上級 Tutorials : テキスト :- 言語理解のための Transformer モデル