본문

구글, 까다로운 인공지능윤리로 사람들을 돕겠다고 제안

과학기술발전

등록일  2020.09.01

조회수  240

기업은 자체적인 디지털인프라를 운영하지 않기 위하여 아마존, 마이크로소프트, 구글과 같은 클라우드업체에 엄청난 돈을 지불함. 구글의 클라우드부서는 조만간 고객들에게 중앙처리장치 및 디스크드라이브보다 실체가 덜 확실한 무언가(인공지능 이용의 옳고 그름)를 외부에 위탁하도록 정식으로 요청할 것임.

 

구글은 올해 말 이전에 새로운 인공지능윤리서비스를 시작할 계획임. 처음에는 컴퓨터시스템 내의 인종편향과 같은 과업에 관하여 조언하거나 AI사업을 규율하는 윤리적인 지침을 개발하려고 함. 장기적으로는 고객의 인공지능시스템이 윤리적으로 온전한지 감사하고, 윤리적으로 자문하려고 함.

 

구글의 새로운 서비스는 수익성이 좋지만 불신도 쌓여만 가는 산업이 윤리적인 충고에 의하여 사업 활성화가 가능한지 시험할 것임. 아마존, 마이크로소프트에 이어 클라우드시장에서 업계 3위인 구글은 인공지능 전문성을 경쟁력 있는 장점으로 내세워 홍보함.

 

만약 성공한다면 새로운 계획은 클라우드산업의 ‘SaaS(for software as a service; 서비스로서의 소프트웨어)’처럼 ‘EaaS(for ethics as a service; 서비스로서의 윤리)’라는 새로운 유행어를 파생시킬 수 있을 것임.

 

구글은 인공지능윤리라는 가르침을 자체적인 논란거리로 어렵게 배움. 2015년 구글은 한 이용자가 흑인 친구와 함께 찍은 사진에 고릴라라는 꼬리표가 붙었다고 보고하자, 사과하고 해당 포토어플을 차단함. 2018년에는 구글 직원 수천명이 자사 기술을 드론 감시영상을 분석하는데 이용하는 펜타곤 계약에 항의함.

펜타곤프로젝트를 둘러싼 논란과 구글 직원들의 반대의사를 다룬 201936일자 해외언론동향 : http://www.nibp.kr/xe/news2/130389

 

얼마 후 구글은 인공지능기술 사용에 대한 일련의 윤리원칙을 배포했고, 더 이상 유사한 사업에서 경쟁하지 않을 것이라고 밝혔지만, 모든 방위산업을 배제하지는 않음. 같은 해 구글은 중국의 독재적인 검열을 수락하도록 설계된 검색엔진 버전을 시험한 것을 인정했고, 업계 라이벌(마이크로소프트와 아마존)처럼 남용 위험 때문에 얼굴인식기술을 제공하지 않겠다고 밝힘.

구글의 모두를 위한 인공지능 개발 원칙 : https://ai.google/responsibilities/

 

구글의 투쟁은 기술자들 사이의 인공지능이 세상에 도움이 될 뿐만 아니라 위해를 끼칠 수도 있다는 폭넓은 판단(reckoning)의 일부임. 예를 들어 얼굴인식시스템은 흑인에 대해 덜 정확한 때가 종종 있고, 텍스트소프트웨어는 고정관념을 강화할 수 있음. 동시에 규제자들, 입법가들, 시민들은 기술이 사회에 미치는 영향에 대하여 더욱 의심함.

얼굴인식기술과 알고리즘 편향을 다룬 2019312일자 해외언론동향 : http://www.nibp.kr/xe/news2/130933

 

일부 회사는 기술의 탈선을 막도록 설계된 연구 및 검토 프로세스에 투자함. 마이크로소프트와 구글은 이제 새로운 인공지능제품과 윤리적인 우려에 대한 잠재적인 처리를 모두 검토하고 있으며, 결국 사업을 접었다고 함.

 

구글 클라우드부서 인공지능전략 담당자 Tracy Frey는 이와 같은 경향이 구글에 강력한 인공지능을 의존하는 고객들에게 윤리적인 도움도 요청하도록 했다고 밝힘. “기술의 세계는 내가 할 수 있으니까 구축하겠다에서 구축을 해야 하나?’로 바뀌고 있다고 설명함.

 

구글은 이미 그렇게 생각하는 글로벌대형은행(HSBC)과 같은 일부 고객들을 돕고 있음. 지금은 정식 인공지능윤리서비스 출시를 올해 말 이전으로 목표하고 있음. Frey는 처음 부분은 인공지능시스템의 윤리적인 문제를 발견하는 방법, 인공지능윤리지침 개발과 시행과 같은 주제를 다루고 있다고 말함. 이후 구글은 고객의 인공지능사업을 검토하거나 감사하는 컨설팅서비스를 제공할 것임. 일례로, 대출알고리즘이 특정 인구통계학적 집단에게 편향되어 있는지 확인하는 것을 말함. 구글은 이러한 서비스의 일부에 요금을 부과할 것인지 아직 결정하지 않았음.

 

구글, 페이스북, 마이크로소프트는 개발자들이 본인의 인공지능시스템의 신뢰성과 공정성을 확인하는데 사용할 수 있는 모든 기술적인 도구를 출시했고, 대부분 무료임. IBM은 지난해에 공정성 확인버튼이 포함된 도구를 출시함. 시스템의 산출물이 민족성, 우편번호와 같은 속성과 잠재적으로 문제를 일으킬 만한 상관관계를 보여주는지 확인할 수 있음.

 

고객들을 돕기 위하여 한 단계 더 나아가면, 인공지능이 제기하는 자체적인 윤리적인 문제에 대한 윤리적인 한계를 정의할 수 있음. Frey우리가 도덕을 집행하는 경찰처럼 들리지 않는 것이 우리에게는 매우 중요하다고 밝힘. 그녀의 팀은 고객들의 선택에 대하여 지시하거나 책임지지 않으면서 어떻게 윤리적으로 조언할지에 관한 업무를 하고 있음.

 

산타클라라대(Santa Clara University) 응용윤리센터 기술윤리 담당자 Brian Green인공지능으로 돈을 벌려는 회사가 기술 억제에 관한 최선의 도덕적 멘토는 아닐 수도 있다는 점이 과제라면서 합법적으로 돈을 버는 것은 윤리와 양립할 수 있지만, 때로는 가장 윤리적인 방향으로 가지 않는 결정을 내리게 할 수도 있다고 말함.

 

Frey는 구글과 그 고객들이 인공지능을 윤리적으로 배치하는 것을 격려받고 있음. 널리 수용되기 위해서는 기술이 잘 기능해야 하기 때문임. 그녀는 최근 IBM이 얼굴인식서비스를 어떻게 철회하게 되었는지를 지적함. 이는 어두운 피부톤에서 정확성이 떨어지는 얼굴분석알고리즘에 의하여 부분적으로 명백하게 촉진된 것으로 보임. 마이크로소프트와 아마존은 더 많은 규제가 나올 때까지 판매를 중단하겠다고 즉각 밝힘.

 

결국 인공지능윤리서비스에 대한 고객들의 계약은 미래로 천천히 이동해야 함에도 더 빨리 이동하기 위해 구글로 눈을 돌린 기업을 설득하는데 달려있을 수 있음.

 

지난해 말 구글은 유명인사로 한정된 얼굴인식서비스를 출시함. 주로 대규모 엔터테이먼트 영상 콜렉션을 검색하거나 색인을 만들 필요가 있는 회사들을 목표로 함. 유명인사들은 참여를 거부할 수 있고(opt out), 구글은 어떤 고객들이 그 기술을 이용하는지 점검함.

 

윤리적인 검토와 설계 프로세스는 민권지도자들의 자문과 일부 흑인 남성배우에 대한 정확성을 떨어뜨리는 훈련데이터의 문제를 고치는 것을 포함하여, 18개월이 걸림. 구글이 그 서비스를 출시했을 때쯤 아마존의 유명인사인식서비스(유명인사의 참여 거부 허용)2년 넘게 모두에게 개방되어 있었음.

 

기사 : https://www.wired.com/story/google-help-others-tricky-ethics-ai/

사진 : https://www.wired.com/story/photo-algorithms-id-white-men-fineblack-women-not-so-much/

첨부파일
이미지 20200901.png (7.6KB / 다운로드  15)