EU AI 규제안에 대한 반발 의견들

유럽위원회는  2021년 4월 21일 인공지능에 대한 인간중심적 개발과 활용을 촉진하는 규제안을 발표한 바 있다

 - EU가 2021년 제시한 AI규제안 참조 :  https://ai-democracy.tistory.com/4 

EU, AI에 대한 새로운 규제안 제시

 

그러나,  국제인권단체인 휴먼 라이츠워치 (Human Rights Watch 인권 감시 단체)는 지난 4월 EU가 제시한 인공지능 AI 규제안이 유럽의 사회 안전망을 침해할 우려가 있다는 Q&A 형식의 보고서를 제시했다 (20201. 11. 10)

이 Q&A에서 HRW는 AI에 대한 의사 결정이 유럽의 복지 혜택 및 기타 사회 보호 조치의 관리와 알고리즘 거버넌스로의 전환으로 인해 발생하는 인권 문제를 어떻게 변화시키고 있는지 강조한다. 

또한 제시된 규정이 이러한 문제를 해결하지 못하는 방법과 이러한 단점을 해결하기 위해 유럽 의회가 무엇을 해야 하는지도 검토했다.

 

 

- 보고서 목차 -

 

Part I:  AI 알고리즘에 의한 의사결정과  사회보장에 대한 권리

   1. 이 규정은 "인공 지능"을 어떻게 정의합니까?
   2. EU 회원국은 사회 보장에 대한 권리를 보호할 의무가 있습니까?
   3. 정부는 수혜 및 사회 보장 프로그램에 대한 접근을 감시 제어하기 위해 자동화를 어떻게 사용하고 있습니까?
            I. 본인확인
           Ⅱ. 적격성 평가 및 수단 테스트
           III. 사기 방지
   4. 정부는 사회 보장 지원을 할당하기 위해 자동화를 어떻게 사용하고 있습니까?

Part II: EU AI 규정
   5. AI 시스템 규제에 대한 규정의 위험 기반 접근 방식은 어떻게 작동할 것으로 예상됩니까?
   6. 이 규정은 정부 기관이 수혜나 직업 지원을 신청하는 사람들의 점수를 매기거나 프로파일링하는 것을 방지합니까?
   7. 이 규정은 사회 보장 지원을 신청하는 사람들을 선별하기 위해 안면 인식을 사용하는 것을 금지합니까?
   8. 규제의 보호 장치의 대부분은 단순히 사용하는 기관이 아니라 복지 기술의 "제공자"에 있습니다. 이것이 왜 중요합니까?
   9. 제안된 규정은 알고리즘 차별로부터 사회 보장 지원을 신청하거나 받는 사람들을 보호합니까?
   10. 규제의 투명성 요구 사항이 정부가 사회 보장 관리에서 AI를 사용하 방법에 대해 더 많이 아는 데 도움이 됩니까?
   11. 인간 감시에 대한 제안된 규정의 요구 사항이 복지 자동화의 실패로부터 사람들을 보호합니까?
   12. 누가 복지 기술 제공자에게 규정의 보호 장치에 대한 책임을 묻게 합니까?
   13. 회원국이 규정의 단점을 보완하고 권리를 보호하기 위해 자체 규칙을 설정할 수 있습니까?

Part III: 권장 사항
   14. EU는 "용납할 수 없는 위험"이 있는 시스템에 대한 금지를 어떻게 강화할 수 있습니까?
   15. EU는 규제가 새로운 위협을 처리하도록 어떻게 보장할 수 있습니까?
   16. EU는 "고위험" 시스템이 인권 기준을 준수하도록 어떻게 보장할 수 있습니까?
           I. 조달, 설계 및 수정
           Ⅱ. 배포 후
           III. 투명도
           IV. 감시
           V. 구제 및 준수

등  16개 질문을 던지고 답한다.

https://www.hrw.org/news/2021/11/10/how-eus-flawed-artificial-intelligence-regulation-endangers-social-safety-net

How the EU’s Flawed Artificial Intelligence Regulation Endangers the Social Safety Net: Questions and Answers

상세 내용은 첨부 화일로 참조하였다

202111hrw_eu_ai_regulation_qa_0.pdf

0.58MB