연구진은 희귀한 Paired-Focus 구문(예: 'let alone', 'much less')의 의미론적 이해를 테스트하기 위해 새로운 데이터셋을 구축했어요.
매개변수 수, 아키텍처, 사전 훈련 데이터셋 크기가 다른 다양한 모델을 테스트한 결과, 일부 중간 규모 모델이 Paired-Focus 구문의 형태와 의미에 민감하게 반응하지만, 인간 규모 데이터로 훈련된 모델은 모든 의미 평가에서 실패했어요.
Paired-Focus 구문 이해는 Paired-Focus 구문 합성 지식보다 늦게 나타나며, Paired-Focus 구문 의미론 학습은 일부 세계 지식 영역의 향상과 상관관계가 있다는 사실을 발견했어요.