여성연합 인공지능 윤리원칙 제정안 검토의견

인공지능 윤리원칙(안)

전반

•윤리원칙 전체에 대한 대폭적인 보완 필요

1) 서문 : 윤리원칙의 철학과 방향성이 무엇인지 제시 필요

2) 인권, 성평등 관점을 통합한 윤리원칙에 대한 구체적인 내용 보완

- 인공지능 기술로 인해 우리 사회 대전환이 예상되고 그에 따른 윤리원칙을 담고자 한다면 윤리원칙의 철학과 방향 그리고 인권, 성평등, 공공성 등 인류 보편의 가치와 규범을 더욱 명확하게 규정할 필요가 있음.

- 서문 또는 가치 도입부에 헌법이 보장하는 기본권 및 국제인권규범(세계인권선언, 여성차별철폐협약 등)에 근거한 기본권, 인권이라는 가치 명시 필요.

•인공지능이 야기할 수 있는 사회적 위험에 관한 서술 필요

- 기술․산업 혁신의 중요성을 강조하고 있으나 급격한 기술변화에 따른 기본권 침해, 사회적 위험의 예방이라는 윤리원칙의 존재 이유가 상대적으로 약하게 서술되어 있음. 서문에서 인공지능이 초래하는 위험을 ‘윤리적 쟁점’이라고 표현한 것은 실제 발생하는 피해와 잠재적 위험을 중립적인 논의 대상으로 축소하는 측면이 있음. 그 결과 인공지능으로 인한 실질적 폐해와 위험을 충분히 인정하지 못하고, 이를 예방하고 규율하기 위한 윤리원칙의 필요성과 규범적 방향성도 충분히 제시되지 못하고 있음.

- 인공지능 기술과 산업의 육성은 빠르게 진행되지만 기본권 보호와 사회적 위험의 예방체계는 그 속도를 따라가지 못하고 있음. 이에 윤리원칙을 통해 그 공백을 예방적으로 마련해야 함.

- EU 윤리지침은 “AI시스템은 의도가 선의적이더라도 의도하지 않은 폐해를 야기할 수 있다는 점”을 전제하고 예측하기 어려운 부정적 영향을 인정하고 그에 따른 ‘폐해 방지’를 4대 윤리원칙의 하나로 삼고 있음.

3대 가치

•인간의 존엄성, 사회의 공공성, 기술의 신뢰성 각각의 정의 추가 하고 내용 보완 필요

- 3대 가치에 대한 정의가 명시되어야 하며, 그 가치가 인공지능의 전 과정에서 해당 가치가 어떻게 구현되고 보장되어야 하는지 구체적으로 제시할 필요가 있음.

•인간의 존엄성 내용 보완 : 기본권, 인권 보호 및 침해 금지 영역 필요

- 인간의 존엄성에서 인간의 ‘생명·신체·건강·재산’이라는 열거는 물리적, 경제적 위해에만 초점을 맞추고 있음. 인공지능을 매개로 한 젠더 기반 폭력과 차별이 초래하는 정신적·사회적 위해와 위험에 대해서는 명확히 명시하고 있지 않음.

6대 원칙

③ 공정성·포용성

1) ③ 공정성·포용성을 “③ 다양성, 비차별(차별금지), 포용성”으로 제목 수정하고 이에 관한 내용으로 다시 구성

2) 인공지능 기술의 접근권 관련 사항은 삭제하거나 다른 항목으로 이동

- 다양성, 공정성, 포용성의 의미를 너무 협소한 관점으로 서술하고 있음. 각각의 정의를 차별금지와 평등의 관점에서 서술해야 함.

- 비차별(차별금지)의 원칙은 반드시 6대 원칙에 명확히 명시되어야 함. 

- 핵심 문제는 성별, 장애, 인종, 연령 등 역사적·구조적 차별이 인공지능 시스템을 통해 재생산·고착화될 수 있다는 점임. 따라서 ‘포용’이라는 복지적 접근만으로는 이러한 문제를 해결하기 어려우며, 헌법적, 기본권, 인권적 가치에 따라 ‘차별금지’를 명확히 분리하여 명시해야 함. 또한 현실에 존재하는 차별의 재현 방지를 위한 윤리원칙과 의무를 강력히 규정해야 함. 

- 특히 인공지능 기술의 접근권을 포용성과 같은 의미로 보고 있는 것은 매우 문제적임. 초안의 ‘기술적 소외가 사회적 배제로 이어지지 않도록 한다’는 문구는 AI를 못 쓰는 사람이 없도록 하겠다는 소위 ‘디지털 격차 해소’의 방식으로만 접근하고 있음.

- 인권, 성평등 관련 전문가의 조언을 받아 새로 작성해야 함.

6대 원칙

인권보장 원칙 추가

- 윤리원칙(안)에 ‘기본권’, ‘인권’이 단 한 번도 명시되지 않음

- 본 초안이 “계승·발전”한다고 밝힌 2020년 사람이 중심이 되는 「인공지능(AI) 윤리기준」은 10대 핵심 요건의 첫 번째로 ‘인권보장’을 두어 ‘다양한 민주적 가치와 국제 인권법 등에 명시된 권리를 보장’할 것을 명시하였으나, 본 초안에서는 이 요건이 통째로 삭제됨.

- 윤리원칙의 목적은 인공지능 기술이 인간의 존엄과 기본권을 보호하고 평등과 민주주의를 증진하고, 사회적 신뢰를 바탕으로 책임있게 개발·활용·이용할 수 있도록 공통의 기준을 마련하는 데 있으므로 기본권과 인권이라는 규범적 가치가 명시될 필요가 있음.

- EU의 「신뢰할 수 있는 인공지능 윤리지침」은 윤리적 AI의 토대를 EU기본권헌장과 국제인권법상 기본권(인간의 존엄성, 자유, 민주주의·법치주의, 평등·차별금지·단결)으로 명시하고 있음.

공공성 원칙 추가

- 본 초안이 “계승·발전”한다고 밝힌 2020년 사람이 중심이 되는 「인공지능(AI) 윤리기준」에 담긴 공공성 부분 추가되어야 함.

책임성 원칙 추가

- 현행 6대 원칙에는 “책임성”에 대해 해당하는 원칙이 존재하지 않음.

- 2020년 윤리기준에는 ⑧책임성 항목에 책임 주체를 설정함으로써 발생할 수 있는 피해를 최소화하도록 설계 및 개발, 서비스 제공자, 사용자 간의 책임소재를 명확히 했으나 초안에서 삭제됨.

- 사전 예방으로만 실제 피해 발생 시 구제로 이어지지 않는 경우가 많으며, 특히 젠더편향으로 인한 부당한 차별이나 배제의 문제와 젠더기반폭력 피해구제 및 보호를 위해서는 책임성 요건을 복원·강화해야 할 것임.

- 이를 위해 사전 영향평가절차, 감사 및 보고 체계, 구체 절차 등을 명확히 하는 것이 필요함.