App下載

PyTorch dataloader的shuffle=True有什么用？

猿友 2021-07-22 10:44:27 瀏覽數(shù) (8250)
反饋

在pytorch的dataloader中有一個屬性為shuffle，當(dāng)他為True的時候會展現(xiàn)出什么樣的效果呢？接下來我們通過代碼運(yùn)行，來介紹一下PyTorch dataloader的shuffle=True有什么用吧。

對shuffle=True的理解：

之前不了解shuffle的實(shí)際效果，假設(shè)有數(shù)據(jù)a,b,c,d，不知道batch_size=2后打亂，具體是如下哪一種情況：

1.先按順序取batch，對batch內(nèi)打亂，即先取a,b，a,b進(jìn)行打亂；

2.先打亂，再取batch。

證明是第二種

shuffle (bool, optional): set to ``True`` to have the data reshuffled 
at every epoch (default: ``False``).
if shuffle:
    sampler = RandomSampler(dataset) #此時得到的是索引

補(bǔ)充：簡單測試一下pytorch dataloader里的shuffle=True是如何工作的

看代碼吧~

import sys
import torch
import random
import argparse
import numpy as np
import pandas as pd
import torch.nn as nn
from torch.nn import functional as F
from torch.optim import lr_scheduler
from torchvision import datasets, transforms
from torch.utils.data import TensorDataset, DataLoader, Dataset
 
class DealDataset(Dataset):
    def __init__(self):
        xy = np.loadtxt(open('./iris.csv','rb'), delimiter=',', dtype=np.float32)
        #data = pd.read_csv("iris.csv",header=None)
        #xy = data.values
        self.x_data = torch.from_numpy(xy[:, 0:-1])
        self.y_data = torch.from_numpy(xy[:, [-1]])
        self.len = xy.shape[0]
    
    def __getitem__(self, index):
        return self.x_data[index], self.y_data[index]
 
    def __len__(self):
        return self.len
   
dealDataset = DealDataset() 
train_loader2 = DataLoader(dataset=dealDataset,
                          batch_size=2,
                          shuffle=True)
#print(dealDataset.x_data)
for i, data in enumerate(train_loader2):
    inputs, labels = data
 
    #inputs, labels = Variable(inputs), Variable(labels)
    print(inputs)
    #print("epoch：", epoch, "的第" , i, "個inputs", inputs.data.size(), "labels", labels.data.size())

簡易數(shù)據(jù)集

簡易數(shù)據(jù)集

shuffle之后的結(jié)果，每次都是隨機(jī)打亂，然后分成大小為n的若干個mini-batch.

運(yùn)行結(jié)果

以上就是PyTorch dataloader的shuffle=True有什么用的全部內(nèi)容，希望能給大家一個參考，也希望大家多多支持W3Cschool。


Python

1 人點(diǎn)贊