如何调整train batch size

[Fu-Fu-Fu-Fu]

在您提供的SFT命令中，有两个参数： --per_device_train_batch_size 1 --gradient_accumulation_steps 2
实际batch size就是 12显卡数。我试图增大训练的batchsize，也就是增加per_device_train_batch_size，但是会报错，我搜索显示貌似是open r1不推荐修改这个参数。如果增大gradient_accumulation_steps这个参数，是否又会影响性能呢？

我用4张卡，如果采用原参数，也就是batch size只为8，这是否太小了？

[tulerfeng]

hi，open r1框架不支持修改 per_device_train_batch_size。

增加gradient_accumulation_steps只会略微增大显存占用，相当于是累积多步再梯度回传，但是不会影响性能，和增加per_device_train_batch_size是等价的。batch size为8也还行，毕竟卡比较少。