mini-batch 和batch到底是什么

mini-batch是将所有数据分批，然后按顺序处理，每一批计算一次loss，更新参数，然后下一批。也就是我们代码必用的（例如batch_size=128），只是我以前一直以为这个叫做batch，原来这个叫做mini-batch。

所以以后要改口了，因为论文中这个更新参数的方法都是写成mini-batch的。