연구진은 ReLU 및 LayerNorm의 한계를 극복하기 위해 Z-Plane 신경망을 제안했어요. 이 모델은 은닉 상태를 구형 표면의 2D 페이저 번들로 매핑하고, 방향 정보를 보존하는 경계 기하 활성화 함수를 도입했어요.
Radial Bounding 함수는 에너지 크기를 제한하면서도 위상(방향)을 유지하며, 1-Lipschitz 연속성을 유지하고 기울기 소실을 방지하는 것으로 수학적으로 증명됐어요.
100층 Z-Plane MLP가 ReLU 및 LayerNorm 없이 MNIST 데이터셋에서 98.34% 정확도로 수렴하며, 경계 기하 활성화만으로도 안정적인 딥러닝이 가능함을 입증했어요.