PyTorch デザインノート : Multiprocessing ベストプラクティス (翻訳/解説)

【PyTorch デザインノート: Multiprocessing ベストプラクティス】
PyTorch のデザインノートの翻訳をしています。最新の PyTorch 0.4.0 リリースにも対応しています。
今回はマルチプロセス処理を扱います。Python multiprocessing モジュール互換な torch.multiprocessing パッケージが主題で、ベストプラクティスとしてデッドロックの回避、multiprocessing.Queue、更には非同期マルチプロセス i.e. モデルの非同期な訓練について説明されます。
その例として Hogwild アルゴリズムも扱われます。
http://caffe.classcat.com/2018/05/28/pytorch-docs-notes-multiprocessing/