유럽연합(EU)이 인종과 성 차별 금지 등을 담은 인공지능(AI) 윤리지침 초안을 마련했다.

니혼게이자이신문은 EU가 전문가회의에서 최근 작성된 AI 윤리지침 초안을 전문기구 심의를 거쳐 연말까지 집행위원회를 통해 최종안을 도출할 계획이라고 6일 보도했다. EU의 위탁을 받은 전문가회의인 ‘사람들을 위한 AI(AI for People)’가 윤리지침 초안을 조만간 발표할 예정이다.

초안에는 기업의 AI 판단과정 설명 책임 부과, AI 판단에 사용된 데이터 등 정보공개 제도 정비, AI 구조와 운용의 윤리성 심사기구 설치, AI의 윤리성 인증제도 마련 등의 내용이 담겼다.

AI는 최근 활용 분야가 급속히 확대되고 있으나 인종이나 성별 등에서 편향된 데이터를 읽어 들일 경우 차별적 판단을 내리는 사례가 증가할 것으로 우려되고 있다. 실제로 테스트 단계에서 금융기관의 AI가 특정 인종 고객의 주택대출 신청을 거부하거나 인사채용 AI가 남녀 성별에 따라 판단기준에 차등을 두는 바람에 폐기되기도 했다.

그동안 AI 이용의 윤리와 관련된 규정은 구글, 마이크로소프트 등 기업들이 주로 추진해 왔다. 국가 차원에서 관련 규정 제정을 추진하는 것은 EU가 처음이다. 이에 따라 EU의 AI 윤리지침은 다른 나라의 관련 규제와 기업에도 영향을 미칠 것으로 예상된다.

현재 윤리지침 초안에는 위반에 따른 처벌조항은 포함돼 있지 않지만 EU 각국은 관련 규제법을 추진할 가능성이 있다. 특히 ‘부당한 AI’로 지목되는 기업은 투자가와 소비자로부터 외면당할 가능성도 있다고 니혼게이자이는 지적했다.

장지영 기자 jyjang@kmib.co.kr