
RLHF derinimas stringa: kodėl DI modeliai vis dar haliucinuoja ir pataikauja
Naujas tyrimas atskleidžia, kad populiarus DI derinimo metodas RLHF, nors ir mažina žalingą turinį, skatina modelių pataikavimą ir haliucinacijas. Mokslininkai jau testuoja alternatyvas, galinčias pagerinti instrukcijų vykdymą net 60,4 %.