네이버, AI 안전 생태계 공개…위험 대응 체계 구축

Last Updated : 2024-06-17

네이버의 AI 안전성 체계 '네이버 ASF' 공개

인공지능(AI) 안전성 실천을 위한 네이버의 '네이버 ASF(인공지능 세이프티 프레임워크)'가 공개되었다. 이는 AI 시스템을 개발하고 배포하는 모든 과정에서 AI의 잠재적 위험을 인식, 평가, 관리하기 위한 대응 체계로, '통제력 상실 위험'과 '악용 위험'을 해결하기 위한 설계를 특징으로 한다.

AI 위험 평가 스케일

AI 시스템의 위험을 주기적으로 평가하고 관리하는 체계로, '프런티어 AI'와 악용 위험을 고려하여 대응하는 방법을 제시한다.

AI 위험 평가 매트릭스

통제력 상실 위험	악용 위험
현존 최고 성능의 AI 시스템을 정의하고 3개월마다 위험 평가를 수행한다.	AI 시스템의 사용 목적과 안전 조치의 필요성에 따라 위험을 관리한다.
시스템의 능력이 기존보다 6배 이상 급격히 증가한 경우, 추가 평가가 이뤄진다.	특정 목적을 위해 사용되는 AI 시스템은 특별한 자격이 있는 사용자에게만 제공함으로써 위험을 완화한다.
일반적인 목적을 위해 사용되는 AI 시스템은 추가적인 안전 조치를 통해 위험을 완화할 때까지는 배포하지 않는다.

네이버는 자체 AI 안전성 체계를 통해 문화적 다양성을 반영하고, 지역의 맥락을 고려하여 안전성을 강화하며, 이를 향후 글로벌 시장에 지속적으로 개선해갈 계획이다.

한국어 데이터셋을 글로벌로 확장

네이버는 한국어를 기반으로 구축한 AI 안전성 강화 학습 데이터셋을 확장하고, 문화적 차이를 고려하여 글로벌 AI 커뮤니티에 공헌한 경험이 있다. 이는 AI 모델의 안전성을 확보하는 데 매우 중요한 역할을 한다.

네이버의 AI 안전성 체계의 특장점

네이버의 ASF는 지역의 사회기술적 맥락을 고려하고, 매트릭스 형태의 위험 평가 구조를 채택하여 차별화되며, 해외 빅테크들과는 다른 방식으로 AI 안전성에 대한 접근을 보여준다.

위의 내용은 네이버가 보다 안전하고 문화적으로 다양성을 반영한 AI를 개발하기 위해 새롭게 공개한 '네이버 ASF'에 대한 정보이다. 이러한 노력은 인공지능 기술의 안전성을 확보하고, 다양한 문화와 언어에 맞춰 안전한 인공지능 시스템을 제공하기 위한 중요한 발전으로 해석된다.

네이버, AI 안전 생태계 공개…위험 대응 체계 구축 | 브뉴스 : http://bnews.kr/post/ba31eab1/3190

2024-06-19 3 2024-06-20 1 2024-06-22 1 2024-06-23 1 2024-06-24 1 2024-06-27 1 2024-06-28 1 2024-07-02 1 2024-07-03 1 2024-07-04 1 2024-07-05 2 2024-07-08 2 2024-07-09 1 2024-07-11 1 2024-07-12 1 2024-07-15 1 2024-07-16 1 2024-07-18 1 2024-07-19 1 2024-07-21 2 2024-07-23 1 2024-07-24 1 2024-07-27 1 2024-07-31 1 2024-08-03 1 2024-08-04 1 2024-08-06 2 2024-08-07 3 2024-08-08 1 2024-08-09 1 2024-08-13 1 2024-08-15 1 2024-08-16 1 2024-08-17 3 2024-08-19 1 2024-08-20 1 2024-08-21 1 2024-08-22 1 2024-08-23 1 2024-08-27 1 2024-08-29 1 2024-09-01 2 2024-09-02 1 2024-09-07 1 2024-09-10 1 2024-09-11 1 2024-09-13 1 2024-09-14 1 2024-09-15 2 2024-09-16 1 2024-09-18 2 2024-09-19 1 2024-09-20 2 2024-09-21 2 2024-09-23 1 2024-09-25 1 2024-09-28 3 2024-09-29 1 2024-09-30 1 2024-10-02 1 2024-10-03 2 2024-10-04 2 2024-10-07 1 2024-10-08 1 2024-10-10 2 2024-10-11 1 2024-10-12 1 2024-10-13 1 2024-10-14 1 2024-10-15 2 2024-10-16 1 2024-10-18 1 2024-10-19 2 2024-10-20 2 2024-10-22 3 2024-10-25 1 2024-10-31 1 2024-11-08 2 2024-11-10 1 2024-11-13 2 2024-11-17 1 2024-11-22 1

다음 글 : 에코프로, 유럽 진출 계획 첫 공개…인터배터리 참가 발표

이전 글 : 삼성휴먼테크논문대상, 4000만원 상금으로 30주년 기념