autograd依赖的数据结构

at::Tensor：shared ptr 指向 TensorImpl

TensorImpl：对 at::Tensor 的实现

• 包含一个类型为 AutogradMetaInterface 的autograd_meta_，在tensor是需要求导的variable时，会被实例化为 AutogradMeta ，里面包含了autograd需要的信息

Variable: 就是Tensor，为了向前兼容保留的

• using Variable = at::Tensor;
• 概念上有区别, Variable 是需要计算gradient的, Tensor 是不需要计算gradient的
• Variable的 AutogradMeta是对 AutogradMetaInterface的实现，里面包含了一个 Variable，就是该variable的gradient
• 带有version和view
• 会实例化 AutogradMeta , autograd需要的关键信息都在这里

AutoGradMeta : 记录 Variable 的autograd历史信息

• 包含一个叫grad_的 Variable， 即 AutoGradMeta 对应的var的梯度tensor
• 包含类型为 Node 指针的 grad_fn （var在graph内部时）和 grad_accumulator（var时叶子时）, 记录生成grad_的方法
• 包含 output_nr ，标识var对应 grad_fn的输入编号
• 构造函数包含一个类型为 Edge的gradient_edge, gradient_edge.function 就是 grad_fn, 另外 gradient_edge.input_nr 记录着对应 grad_fn的输入编号，会赋值给 AutoGradMeta 的 output_nr

autograd::Edge: 指向autograd::Node的一个输入

• 包含类型为 Node 指针，表示edge指向的Node
• 包含 input_nr， 表示edge指向的Node的输入编号

autograd::Node: 对应AutoGrad Graph中的Op

• 是所有autograd op的抽象基类，子类重载apply方法
  • next_edges_记录出边
  • input_metadata_记录输入的tensor的metadata