본 기사는 생성형 AI 안전에 대한 오해를 풀고, 실제 위험과 해결책에 집중하기 위한 프레임워크를 제시합니다. 알고리즘 공정성 원칙에 기반하여 AI 시스템의 안전과 신뢰성을 확보하는 7가지 핵심 주제를 설명합니다.
AI 안전은 사용자에 대한 피해(고정관념 노출, 채용 거부), 체계적 오류로 인한 사회적 피해, 악의적인 사용자에 의한 피해(스팸, 허위 정보) 등 다양한 유형의 피해를 예방하는 데 초점을 맞춰야 합니다.
기존의 AI 안전 연구는 데이터 분류에 집중했지만, 생성 모델의 중요성이 커짐에 따라 생성 모델의 대표성 피해에 대한 연구가 증가하고 있으며, UCLA 연구실과 같은 곳에서 공정성을 위한 연구를 진행하고 있습니다.