cuda张量的索引列表会出错-"无法将cuda： 0设备类型张量转换为Numpy"

Question

我有一个cuda张量列表：

>>> X_train
[tensor([  101,  3533...='cuda:0'), tensor([  101,  3422...='cuda:0'), tensor([  101,  2054...='cuda:0'), tensor([ 101, 1019, ...='cuda:0'), tensor([  101, 14674...='cuda:0'), tensor([  101,  9246...='cuda:0'), tensor([  101,  2054...='cuda:0'), tensor([  101,  2339...='cuda:0), ... ]

我正在尝试应用k-折叠交叉验证。因此，我想使用k倍索引列表为该列表编制索引：

>>> X_train[train_index]

但它给了我错误：

TypeError: only integer scalar arrays can be converted to a scalar index

根据这个答案，问题是我不能使用索引列表来索引列表。在努比是允许的。

所以我试着把它转换成Numpy：

np.array(X_train)

但它给了我一个错误：

TypeError: can't convert cuda:0 device type tensor to numpy. Use Tensor.cpu() to copy the tensor to host memory first. 

我真的必须在索引之前将这些单独的cuda张量移动到cpu吗？如何在cuda上轻松索引cuda张量列表（利用GPU进行训练模型）？或者这是不可能的，我应该首先对它们进行索引（首先将它们形成numpy数组），然后将索引的部分移动到cuda？是否遵循任何标准/首选实践来处理数据？

Answer 1

仅仅为了索引而转换为numpy确实是一个糟糕的选择：这会导致GPU和CPU之间的复制操作，通常会破坏PyTorch的计算图。

您可以改为使用列表理解：

subset = [X_train[i_] for i_ in train_index]