一个好的网络，二者的差距应该是很低的。但一般情况下因为网络不可避免地存在一定程度上的过拟合，所以肯定是train_loss低于test_lost，但如果低太多，就得考虑是过拟合的问题还是因为样本的特征空间不统一的问题。
一般训练集不大时，最终训练的网络及容易过拟合，也就是说train-loss一定会收敛，但是test-loss不会收敛； 训练时的loss会低于test的loss大概1~2个数量级，通常是10倍左右。
来源：CSDN
作者：追梦小狂魔
链接：https://blog.csdn.net/qq_15557299/article/details/104307690