[데일리시사닷컴]정부가 국내 AI(인공지능)의 신뢰성 확보를 위한 윤리기준을 제정하고 글로벌 진출을 확대해 나갈 수 있도록 AI 신뢰성 분야 국제표준화도 적극 추진하겠다고 밝혔다.

6일 과학기술정보통신부(이하 ‘과기정통부’)와 한국정보통신기술협회( 이하 ‘TTA’)는 TTA 제104차 정보통신표준총회를 통해 ‘인공지능(이하 ‘AI’) 시스템 신뢰성 제고를 위한 요구사항’ 정보통신단체표준(이하 ‘단체표준’)을 제정했다고 밝혔다. 

이번 단체표준은 ‘국가 AI 윤리기준, 분야별 ‘신뢰할 수 있는 AI 개발안내서’에 신뢰성 적용범위·특성, 시스템 생명주기 및 이해관계자 등 3종과 AI 시스템 신뢰성 구성요소와 요구사항 등을 기반으로 제시하였다.
 
이들 내용에는 견고성, 보안성, 설명가능성, 신뢰성, 안전성, 예측가능성, 제어가능성, 책임성, 투명성, 공정성, 프라이버시, 회복탄력성 등의 ‘세부특성’과 초기, 설계‧개발, 검증‧확인, 배치, 운영‧모니터링, 지속적 확인, 재평가, 폐기 등의 ‘생명주기’과 적시되었다.

이어 AI 제공자, AI 생산자, AI 고객, AI 파트너, AI 영향대상, 관계기관 등 ‘이해관계자’ 와  AI 시스템 위험관리 계획 및 수행, 수집‧가공된 학습데이터의 편향 제거, AI 모델의 편향 제거, AI 시스템의 안전모드 구현 및 문제발생 알림절차 수립 등 15가지 이번 단체표준 제정으로 그동안 모호한 개념으로 인식되었던 AI 신뢰성 확보를 위한 기준을 정립하는 등 ‘요구사항’을 개선할 전망이다.

과기정통부와 TTA는 “이번 단체표준 제정을 시작으로 향후 단체표준의 요구사항에 대한 검증 프로세스를 표준화하고, 단체표준의 내용을 분야별로 확대하여 위험 기반의 검증 항목·절차에 대한 표준화를 지속 추진하겠다”고 밝혔다.

정부는 AI 신뢰성 분야 국제표준화를 통한 글로벌 주도권을 확보해 나갈 계획도 밝혔다.

과기정통부는 표준화 단체인 ISO/IEC의 AI 그룹인 JTC1/SC42에 AI 신뢰성 신규 표준 제안과 함께 미국‧영국 등 글로벌 주요국과 표준화 협력을 강화하여 AI 윤리·신뢰성 관련 표준에 대한 글로벌 주도권을 확보해 나갈 계획이라고 밝혔다.

과기정통부 박윤규 2차관은 “국내 AI 산업의 신뢰성을 확보하기 위해 정책적 지원을 확대하고, 국내기업들이 글로벌 진출을 확대해 나갈 수 있도록 AI 신뢰성 분야 국제표준화도 적극 추진해 나가겠다”라고 언급하였다.