PyTorch デザインノート : PyTorch を拡張する (翻訳/解説)

【PyTorch デザインノート: PyTorch を拡張する】
PyTorch のデザインノートの翻訳をしています。最新の PyTorch 0.4.0 リリースにも対応しています。今回は PyTorch の拡張を扱います。
本ドキュメントは torch.autograd と torch.nn を拡張する方法、及び Module を追加する方法が説明されます:
(1) autograd への演算の追加は新しい Function サブクラスの実装が必要です。
(2) torch.nn の拡張については、nn は 2 種類のインターフェイス i.e. モジュールとその functional バージョンを持ちますが、層のためにはモジュールを使用し、(活性化関数のような) パラメータ-less 演算のためには functional 形式の使用が推奨されます。
http://caffe.classcat.com/2018/05/26/pytorch-docs-notes-extending/