문. 인공지능 편향성 이슈와 신뢰성 확보방안

토픽	인공지능 편향성 이슈와 신뢰성 확보방안
도메인	인공지능	중요도	중
참고문헌	국경완, “인공지능 편향성 이슈와 신뢰성 확보방안”, TTA저널, 2022.05, pp29-36.

 

문. 인공지능 편향성 이슈와 신뢰성 확보방안(2022.05.)

답.

1. 개요

  - 인공지능은 AIoT(AI Internet of Things), RPA(Robotic Process Automation), 사이버보안 등 산업전반 모든 분야에서 큰 가능성과 유용성을 가지고 있음

  - 인공지능 편향은 어떠한 원인으로 인하여 인공지능 시스템이 특정 방향에 치우친 결과를 도출하는 것을 말함

  - 특정 편향들은 개인과 조직, 사회에 대한 부정적 영향을 증폭할 수 있음

 

2. 인공지능 신뢰성 확보를 위한 기술적 요구사항

<그림. 인공지능 편향의 범주>

구 분	설 명
인간의 편향	- 인공지능이 학습하는 데이터는 인간으로부터 기인하므로 원시 데이터 자체가 편향이 될 수 있음 - 인공지능의 편향 발견은 의사결정 과정에서 수정을 할 수 있어 장점으로 작용할 가능성이 있음
숨겨진/암묵적 편향	- 절대 보거나 발견될 수 없는 의도하지 않은 편향을 의미 - 성별, 인종, 장애, 섹슈얼리티 또는 계급에 근거한 편견을 인식하지 못하기 때문에 위험함
데이터 표본 편향	- 시스템에 공급되는 데이터에 샘플링 편향이 있어 인공지능이 편향되게 됨 - 아마존의 채용 알고리즘에서 남성 이력서에서 실행됨(Executed) 또는 캡처됨(Captured)와 같은 단어를 기반으로 한 지원자를 선호함
롱테일 편향	- 훈련 데이터에서 특정 범주가 누락될 때 발생
고의적 편향	- 해킹 공격을 통해 인공지능이 의도적으로 편향성이 부여될 수 있음 - 잘못된 정보를 의도적으로 학습시켜 공격자의 의도대로 정보 가능이 가능해짐

 

3. 인공지능 신뢰성 확보방안

<그림. XAI 개념도>

구 분	설 명
양질의 데이터 확보	- 인공지능 시스템을 훈련시키기 전에 편향이 제거되도록 데이터 전처리 - 인공지능 시스템이 데이터를 학습한 후 후처리 시행 - 인공 지능 시스템이 미리 결정할 수 있는 임의의 공정성 상수를 충족하도록 일부 예측을 변경하는 것을 의미함
설명가능한 인공지능	- XAI(eXplainable Artificail Intelligence) - 알고리즘이 정확히 어떻게 결과에 도달하는지, 책임 및 윤리 개념에 해당하는 편향 또는 매개변수 등에 관한 규칙을 모름 - XAI는 이를 개선하여 좋은 편향이 반영됐는지 나쁜 편향이 적용됐는지를 구분하는데 도움을 줌
알고리즘 편향 수정	- 데이터에서 보호된 클래스(성별, 인증 등)을 제거하고 알고리즘을 편향되게 만드는 레이블을 삭제함
맥켄지 제안방법	1) 인공지능 배포 시 편향이 발생하기 쉬운 영역을 예상 2) 인공지능 시스템의 편향을 테스트하고 완화하기 위한 프로세스 수립 3) 인간의 결정에 잠재적인 편향성이 있다는 사실에 기반한 대화 참여 4) 인간과 기계가 가장 잘 협업할 수 있는 방법을 완전히 탐구 5) 편향성 연구에 더 많은 투자하고 연구에 더 많은 데이터를 제공 6) 인공지능 분야 자체를 다각화하는데 더 많은 투자의 필요