본문

인공지능은 커다란 장점을 가지고 있지만, 잠재적인 위해에 대한 관리가 필요하다.

과학기술발전

등록일  2021.12.17

조회수  71

인공지능과 머신러닝*은 우리 시대의 가장 난해한 문제들 중 일부, 예를 들어 기후 변화와 감염병에 대한 해결에 기여할 수 있는 잠재력을 가지고 있다. 하지만 인공지능과 머신러닝은 해를 끼칠 수 있는 능력도 가지고 있으며, 만약 적절하게 사용되지 않는다면 역사적 부정의(injustices)와 구조적 불평등을 지속시킬 수 있다.

*인간의 학습 능력과 같은 기능을 컴퓨터에서 실현하고자 하는 기술 및 기법  

 

잠재적인 피해를 완화하기 위해 세계는 경제적으로 가능하면서도 권리를 보존하는 데이터 거버넌스를 위한 프레임워크가 필요하다  

 

인공지능과 머신러닝은 패턴을 식별하도록 알고리즘이 프로그래밍된 대규모 데이터 세트를 기반으로 작동한다. 이러한 패턴은 새로운 통찰력을 추론하고 행동과 결과를 예측하는 데 사용될 수 있다. 인공지능과 머신러닝은 인간의 의사결정을 인간을 대신하여 자동화된 의사결정으로 대체하는 데 점점 더 많이 사용되고 있다. 이것은 종종 사람들의 삶에 중대한 영향을 미칠 수 있는 영역에서 발생한다. 대출금에 접근하거나 심지어 국가에 접근하기도 한다  

 

그러나 이 모든 것은 설계자조차 그 알고리즘에 접근할 수 없는 블랙박스에서 일어나기 때문에, 박스에 들어갈 항목을 결정하는 것이 무엇보다 중요하다.

 

가장 큰 데이터 세트와 알고리즘 활동은 온라인에서 우리의 모든 행동을 감시하는 글로벌 소셜 네트워크에서 생성된다. 이러한 데이터 세트는 우리의 필요와 요구를 예측하고 형성하는 데 사용할 수 있다  

 

대기업과 다국적기업, 개발은행(development banks)은 인공지능의 잠재력을 최대한 활용하여 경제성장과 국가 발전을 앞당겼다. 또한 공공 의사 결정, 계획 및 자원 분배뿐만 아니라 사회 및 경제 응용 분야에서 점점 더 많이 사용되고 있다. 여기에는 법원의 판결 유도, 취업 지원자 선발, 교육 시스템의 장학생 선정이 포함된다   

 

COVID-19 대유행은 또한 공중보건 및 재난 위기에 대처하는데 있어 공공 데이터의 엄청난 가치 및 공공 및 민간 데이터를 결합함의 잠재적 가치를 명백하게 만들었다.  

 

그러나 인공지능과 관련된 기회들과 해악들의 불균등한 분배에 대한 우려가 커지고 있다.  

 

위협

공공 의사 결정에서 인공지능과 머신러닝의 사용이 증가함에 따라 공정성(fairness)과 인권(human rights)을 둘러싼 비판적인 문제들이 제기되고 있다  

 

특히 디지털 데이터가 생성되는 방식이 적신호가 되고 있다. 데이터 세트에는 몇 가지 큰 차이가 있다. 결과적으로 특정 사람들은 데이터 수집 방식에서 가시적이고, 과소 대표되며, 차별을 받는다. 세계 인구의 대부분이 인터넷과 새로운 데이터 중심 경제를 주도하는 글로벌 소셜 네트워크에 연결되어 있지 않다는 사실은 그들이 존재하지 않는다는 것을 의미한다  

 

전 세계적으로 인공지능은 성평등을 향한 진전에도 위험을 초래한다. 인공지능 시스템이 여성과 성 소수자에게 편향되어 있다는 이야기가 무성하다  

 

게다가, 인공지능 시스템들은 이미 복합적으로 교차하는 형태의 차별에 직면해 있는 집단을 배제하거나, 잘못 표현하는 가정과 데이터에 의존할 수 있다. 이것은 종종 성별, 인종, 능력주의적 불평등과 편견을 반영하고 강화하는 결과를 낳는다  

 

이러한 시스템들은 사회에 미치는 위험을 완화하는 데 필요한 엄격한 책임과 규제의 대상이 되지 않는다  

 

이 위협이 너무 커서 "좋은", "윤리적인" "책임 있는" 인공지능의 개발에 전념하는 여러 국제 포럼들이 등장했다.  

 

그러나 대부분의 선제적 계획들(initiatives)은 사회적, 정치적 문제에 대한 기술적인 해결책을 제시한다. 이것은 그것들이 인권의 틀 밖에서 개발되고 있다는 것을 의미한다. 그것들은 또한 주로 북반구의 계획들이며, 남반구의 참여는 제한적이다  

 

권리 기반 접근

인공지능 개발에 정보를 제공하는 권리 기반 데이터 프레임워크가 있다. 여기에는 유럽 연합의 개인정보 보호 규정(General Data Protection Regulation, GDPR)이 포함된다. 그러나 이 규정은 주로 1세대나 사생활 보호와 같은 기본권에 초점을 맞추는 경향이 있다. 사생활 보호는 광범위하게 개별화된 권리로 간주된다. 공동체 중심의 사회에서 그것이 항상 가장 중요한 가치는 아닐 수도 있다  

 

COVID-19 대유행은 집단적 이익 또는 공공선(common good)을 위해 데이터를 규제해야 할 필요성을 강조했다. 그렇다고 해서 사생활에 대한 권리를 포기해야 하는 것은 아니다.  

 

집단 이익은 또한 개인 식별의 잠재적 결과가 집단 정체성의 노출을 초래하는 식별 가능한 집단이나 공동체의 맥락에서의 데이터 관리와 관련이 있다  

 

데이터 거버넌스에 대한 문헌과 관행은 주로 이러한 부정적인 규제 관점에서 착수되었다. , 데이터 보호 및 사이버 보안 준수 및 위반에 대한 처벌에 중점을 둔다  

 

이것은 바로 인공지능을 위해 필요한 조건이다. 하지만 충분하지 않다. 데이터 거버넌스에는 긍정적인 개입이 필요한 분야가 많다. 예를 들어, 포용, 평등, 구제(redress) 및 사회 정의의 문제를 다룰 경우 데이터에 대한 접근, 데이터의 유용성 및 무결성(integrity)이 포함된다  

 

이들은 2세대와 3세대의 사회적, 경제적 권리들로 이해할 수 있는 이슈들이다.

 

인권을 존중하는 AI

이러한 문제를 해결하기 위해 민주주의 정상 회담과 함께 새로운 글로벌 프로젝트가 시작되었다.  

 

이 정상 회담은 민주주의와 인권을 지지하는 약속을 진전시키기 위한 국제적인 포럼을 의미한다. 인권과 민주주의 가치를 존중하는 인공지능 선진화에 있어 각국이 진행하고 있는 진전(progress)을 평가하는 것이 목적이다  

 

이 프로젝트는 책임 있는 AI에 대한 글로벌 지수(Global Index on Responsible AI)’로 알려져 있다. 아프리카 디지털 씽크탱크(think tank)Research ICT Africa와 독립적 네트워크 Data 4 Development가 주도하고 있다.

 

책임 있는 인공지능을 요구하는 국제사회의 요구에 각국 정부와 국제사회가 대응에 나섰다. 2019년에는 42개국이 OECD의 신뢰할 수 있는 AI 원칙(OECD principles on Trustworthy AI)에 서명했다. 이를 통해 AI 시스템이 안전하고 공정하며 신뢰할 수 있도록 보장한다.  

 

가장 최근에 유네스코는 AI 윤리에 관한 권고안을 제41차 총회에서 채택했다. 이 권고안은 기본권과 자유, 환경적 지속가능성, 다양성의 보호에 중점을 두고 있다.  

 

글로벌 지수는 책임 있는 인공지능이 실제로 무엇을 의미하는지에 대한 빠르게 진화하는 이해를 보완하는 포괄적이고 측정 가능한 표준의 필요성을 다룬다. 또한 관련 행위자가 거버넌스 원칙의 구현을 장려하고 추적한다     

 

글로벌 지수는 120개 이상의 국가에서 책임 있는 AI 원칙의 이행을 추적할 것이다. 원칙이 얼마나 적용되는지 평가하기 위해 독립적인 연구자들로 구성된 국제 네트워크가 구축될 것이다. 책임 있는 인공지능의 핵심 지표에 대한 1, 2차 데이터도 수집한다  

 

이것은 정부, 시민사회, 연구원 및 기타 이해 관계자에게 인공지능 시스템의 개발 및 구현에서 책임 있는 사용 원칙을 유지하는 데 필요한 핵심 증거를 제공할 것이다. 증거는 또한 다음 용도로 사용된다.     

  • 개발 및 인권 의무를 준수하고,
  • 전 세계적으로 책임 있는 AI를 위한 역량을 구축하고
  • 국제 협력을 심화한다.  

 

일반인을 비롯한 이해관계자는 남반구의 렌즈(global South lens)를 통해 의식적으로 개발할 지수의 디자인과 범위를 구체화할 수 있는 기회가 주어진다  

 

그것의 개발은 아프리카 대륙과 남반구 출신의 전문가들이 인공지능의 책임 있는 사용과 개발에 대한 새로운 글로벌 의제를 형성하는 데 앞장설 중요한 기회를 나타낸다

 

기사 및 사진 https://theconversation.com/artificial-intelligence-carries-a-huge-upside-but-potential-harms-need-to-be-managed-173073

첨부파일
이미지 2021-12-17 (해외메인).PNG (708.7KB / 다운로드  4)