TensorFlow 2.0 Alpha : ガイド : TensorFlow で分散訓練 (翻訳/解説)
【TensorFlow 2.0 Alpha: ガイド: TensorFlow で分散訓練】
TensorFlow 2.0 の alpha 0 がリリースされると同時に、チュートリアルやガイドも併せて公開されましたので、順次翻訳しています。
今回翻訳したのはプログラマーズガイドの TensorFlow の分散訓練のページです。
tf.distribute.Strategy はマルチ GPU、マルチマシンや TPU に渡り訓練を分散するための TensorFlow API です。この API を使用すればユーザは既存のモデルや訓練コードを最小限のコード変更で分散できます。
tf.distribute.Strategy は tf.keras、tf.estimator とカスタム訓練ループ、更には TensorFlow を使用する任意の計算をも分散させるために使用できます。