연구진은 부드러운 손실 함수에 대한 PAC-Bayes 비랜덤화를 연구했어요. 손실 함수와 예측기 클래스의 부드러움 특성을 활용하여 확률적으로 높은 신뢰도를 갖는 결정론적 예측기에 대한 일반화 경계를 얻는 것이 목표였어요.
Gibbs 예측기를 결정론적 예측기로 변환하는 데 드는 비용은 Jensen gap 클래스의 일반화 격차로 정확하게 표현되며, 이 클래스는 Rademacher 복잡도를 통해 제어돼요.
Jacobian과 Hessian을 이용한 평탄도량으로 결정론적 예측기에 대한 경계를 이끌어내며, 이는 bounded 및 unbounded 부드러운 손실 함수 모두에 적용 가능하고 선형 예측기 및 부드러운 신경망에 특화될 수 있어요.