Pulse · AI 뉴스

LaplacianFormer: 선형 어텐션 재고 – 라플라시안 커널 활용

LaplacianFormer · 2026-04-22

LaplacianFormer는 고해상도 비전 작업에서 트랜스포머의 복잡성을 줄이기 위해 라플라시안 커널을 활용하는 새로운 모델입니다.

기존의 선형 어텐션 방식의 한계를 극복하기 위해, 라플라시안 커널의 이론적 근거와 미세한 토큰 정보를 유지하는 기능이 추가되었습니다.

Nyström 근사와 Newton--Schulz 반복을 통해 효율적인 연산을 가능하게 했으며, ImageNet 실험에서 성능과 효율성 모두 향상된 결과를 보였습니다.

##어텐션##트랜스포머##비전
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기