네이버, AI 안전 생태계 공개…위험 대응 체계 구축

네이버의 AI 안전성 체계 '네이버 ASF' 공개

인공지능(AI) 안전성 실천을 위한 네이버의 '네이버 ASF(인공지능 세이프티 프레임워크)'가 공개되었다. 이는 AI 시스템을 개발하고 배포하는 모든 과정에서 AI의 잠재적 위험을 인식, 평가, 관리하기 위한 대응 체계로, '통제력 상실 위험'과 '악용 위험'을 해결하기 위한 설계를 특징으로 한다.

AI 위험 평가 스케일

AI 시스템의 위험을 주기적으로 평가하고 관리하는 체계로, '프런티어 AI'와 악용 위험을 고려하여 대응하는 방법을 제시한다.

AI 위험 평가 매트릭스

네이버는 자체 AI 안전성 체계를 통해 문화적 다양성을 반영하고, 지역의 맥락을 고려하여 안전성을 강화하며, 이를 향후 글로벌 시장에 지속적으로 개선해갈 계획이다.

한국어 데이터셋을 글로벌로 확장

네이버는 한국어를 기반으로 구축한 AI 안전성 강화 학습 데이터셋을 확장하고, 문화적 차이를 고려하여 글로벌 AI 커뮤니티에 공헌한 경험이 있다. 이는 AI 모델의 안전성을 확보하는 데 매우 중요한 역할을 한다.

네이버의 AI 안전성 체계의 특장점

네이버의 ASF는 지역의 사회기술적 맥락을 고려하고, 매트릭스 형태의 위험 평가 구조를 채택하여 차별화되며, 해외 빅테크들과는 다른 방식으로 AI 안전성에 대한 접근을 보여준다.

위의 내용은 네이버가 보다 안전하고 문화적으로 다양성을 반영한 AI를 개발하기 위해 새롭게 공개한 '네이버 ASF'에 대한 정보이다. 이러한 노력은 인공지능 기술의 안전성을 확보하고, 다양한 문화와 언어에 맞춰 안전한 인공지능 시스템을 제공하기 위한 중요한 발전으로 해석된다.