TensorFlow : Programmer’s Guide : 変数 (Variables) (翻訳/解説)

TensorFlow 変数 (= variable) は貴方のプログラムで操作される共有され、永続的な状態を表わすための最良の方法です。
変数は tf.Variable クラスを通して操作されます。tf.Variable はテンソルを表わしその値はその上で ops (演算子) を実行することで変更されます。tf.Tensor オブジェクトとは異なり、tf.Variable は単一の session.run 呼び出しのコンテキストの外側に存在します。

TensorFlow : Guide : 低位 API : 変数 (Variables)