当前位置: 首页 > 编程笔记 >

对pytorch中x = x.view(x.size(0), -1) 的理解说明

隆宏爽
2023-03-14
本文向大家介绍对pytorch中x = x.view(x.size(0), -1) 的理解说明,包括了对pytorch中x = x.view(x.size(0), -1) 的理解说明的使用技巧和注意事项,需要的朋友参考一下

在pytorch的CNN代码中经常会看到

x.view(x.size(0), -1)

首先,在pytorch中的view()函数就是用来改变tensor的形状的,例如将2行3列的tensor变为1行6列,其中-1表示会自适应的调整剩余的维度

a = torch.Tensor(2,3)
print(a)
# tensor([[0.0000, 0.0000, 0.0000],
#    [0.0000, 0.0000, 0.0000]])
 
print(a.view(1,-1))
# tensor([[0.0000, 0.0000, 0.0000, 0.0000, 0.0000, 0.0000]])

在CNN中卷积或者池化之后需要连接全连接层,所以需要把多维度的tensor展平成一维,x.view(x.size(0), -1)就实现的这个功能

def forward(self,x):
  x=self.pre(x)
  x=self.layer1(x)
  x=self.layer2(x)
  x=self.layer3(x)
  x=self.layer4(x)
    
  x=F.avg_pool2d(x,7)
  x=x.view(x.size(0),-1)
  return self.fc(x)

卷积或者池化之后的tensor的维度为(batchsize,channels,x,y),其中x.size(0)指batchsize的值,最后通过x.view(x.size(0), -1)将tensor的结构转换为了(batchsize, channels*x*y),即将(channels,x,y)拉直,然后就可以和fc层连接了

补充:pytorch中view的用法(重构张量)

view在pytorch中是用来改变张量的shape的,简单又好用。

pytorch中view的用法通常是直接在张量名后用.view调用,然后放入自己想要的shape。如

tensor_name.view(shape)

Example:

1. 直接用法:

 >>> x = torch.randn(4, 4)
 >>> x.size()
 torch.Size([4, 4])
 >>> y = x.view(16)
 >>> y.size()
 torch.Size([16])

2. 强调某一维度的尺寸:

>>> z = x.view(-1, 8) # the size -1 is inferred from other dimensions
>>> z.size()
torch.Size([2, 8])

3. 拉直张量:

(直接填-1表示拉直, 等价于tensor_name.flatten())

 >>> y = x.view(-1)
 >>> y.size()
 torch.Size([16])

4. 做维度变换时不改变内存排列

>>> a = torch.randn(1, 2, 3, 4)
>>> a.size()
torch.Size([1, 2, 3, 4])
>>> b = a.transpose(1, 2) # Swaps 2nd and 3rd dimension
>>> b.size()
torch.Size([1, 3, 2, 4])
>>> c = a.view(1, 3, 2, 4) # Does not change tensor layout in memory
>>> c.size()
torch.Size([1, 3, 2, 4])
>>> torch.equal(b, c)
False

注意最后的False,在张量b和c是不等价的。从这里我们可以看得出来,view函数如其名,只改变“看起来”的样子,不会改变张量在内存中的排列。

以上为个人经验,希望能给大家一个参考,也希望大家多多支持小牛知识库。如有错误或未考虑完全的地方,望不吝赐教。

 类似资料:
  • 本文向大家介绍说说你对Relay的理解相关面试题,主要包含被问及说说你对Relay的理解时的应答技巧和注意事项,需要的朋友参考一下 https://relay.dev/ Relay是Facebook在React.js Conf(2015年1月)上首次公开的一个新框架,用于为React应用处理数据层问题。 在Relay中,每个组件都使用一种叫做GraphQL的查询语句声明对数据的依赖。组件可以使用

  • 本文向大家介绍说说你对this的理解相关面试题,主要包含被问及说说你对this的理解时的应答技巧和注意事项,需要的朋友参考一下 js 中有两个重要概念:作用域和原型链 我个人感觉 作用域对应函数式开发,闭包是主要工具 原型链对应对象式开发,this 是主要工具,把一些操作封装在一个工具包上,然后用 this 来调用

  • 本文向大家介绍说说你对eval的理解相关面试题,主要包含被问及说说你对eval的理解时的应答技巧和注意事项,需要的朋友参考一下 不安全的, 容易出错, 因为你不知道你传入的参数是什么鬼 性能底下. 某种情况下跟new Function(), setTimeout, setInterval类似 不利于代码可维护性, 可拓展性 不是在无可奈何的情况下, 请不要使用

  • 本文向大家介绍说说你对Object.defineProperty的理解相关面试题,主要包含被问及说说你对Object.defineProperty的理解时的应答技巧和注意事项,需要的朋友参考一下 Object.defineProperty定义新属性或修改原有的属性; vue的数据双向绑定的原理就是用的Object.defineProperty这个方法,里面定义了setter和getter方法,通过

  • 本文向大家介绍说说你对proxy的理解相关面试题,主要包含被问及说说你对proxy的理解时的应答技巧和注意事项,需要的朋友参考一下 vue的数据劫持有两个缺点: 1、无法监听通过索引修改数组的值的变化 2、无法监听object也就是对象的值的变化 所以vue2.x中才会有$set属性的存在 proxy是es6中推出的新api,可以弥补以上两个缺点,所以vue3.x版本用proxy替换object.

  • 本文向大家介绍说说你对EventLoop的理解相关面试题,主要包含被问及说说你对EventLoop的理解时的应答技巧和注意事项,需要的朋友参考一下 浏览器与node将异步任务分为宏任务与微任务 首先执行js主线程中得代码,将对应的宏任务与微任务分别放入宏任务队列与微任务队列 js主线程代码执行完毕 清空微任务队列 取出第一个宏任务执行, 重复以上操作后将宏任务队列中完成的回调一次取出执行。 nod