해외언론동향
해외언론동향 내용 담당 :생명윤리안전정책연구팀 : 02-737-8452,
게재 일자 : 2019-11-25 
키워드 : 인공지능, Artificial Intelligence, AI, 인공지능윤리, AI ethics, 윤리위원회, ethics committee, 편향, bias, 공정함, fairness, 거버넌스, governance, 투명성, transparency, 기계학습, machine learning, 알고리즘, algorithms 

현대의 편향에 대한 민감성은 커지고 있고, 인공지능이 확산되고 도처에 존재하면서 증가할 것임. 오늘날 대부분 인공지능 시스템은 기계학습을 통하여 구축됨. 엄청나게 많은 데이터 비축량으로부터 패턴을 학습하기 위한 수천 개의 잠재적인 알고리즘 중 하나를 필요로 하는 기술을 말함. 이는 미래의 실제 세계 시나리오를 예측하는 모델을 만들어내야 하는데, 편향은 이러한 모델의 정확성을 왜곡함.

 

인공지능을 이용하는 조직은 강력한 조직 전반의 가치가 책임지는 혁신을 조성하는데 역할을 해야 한다고 인식하기 시작함. Salesforce기업의 대표는 기업이 사회에 공헌한 것에 대한 책임을 지는 것을 강력하게 옹호하며, 이러한 가치는 조직문화와 매우 일치함. 이는 평등에 대한 책임, 윤리적이고 인간적인 사용에 대한 책임이라는 두 가지 역할을 생성하는 것을 우선함.

 

조직 전반의 강력한 헌신으로 업체는 가치주도의사결정을 조정, 배포, 계층화할 수 있으며, 이는 내부 및 외부 이해당사자 모두와 엄청난 신뢰를 구축함. 이것이 바로 책임지는 조직의 기반임.

 

그러나 제품과 서비스 전반에 조직의 가치를 유지하는 것은 강력한 내부 거버넌스를 필요로 할 것임. 특히 조직이 인공지능을 의사결정을 돕거나 정보를 제공하기 위하여 이용하기 시작할 경우 더욱 그러함. 인공지능기술이 공정하지 않거나 제대로 작동하지 않는 것으로 인지된 상황을 고려해보자. 개발자가 책임을 질 수 있을까? 소비자에 대한 재협의가 책임지는 기술자, 내부 거버넌스 위원회, 외부 거버넌스의 형태로 있는가? Salesforce기업은 윤리 관련 결정을 감독하는 이해당사자가 많이 포함된 윤리위원회를 통하여 스스로 규율하고 있음.

 

모든 조직은 인공지능의 설계와 구현 방법을 다루기 위하여 강력한 내부 거버넌스 틀을 만들 수 있음. Accenture기업은 노스이스턴대(Northeastern University) 윤리연구소(Ethics Institute)와 공동으로 일종의 매뉴얼 역할을 할 수 있는 데이터 및 인공지능 윤리위원회 구축에 관한 보고서를 발표함. 로드맵을 제공하고, 조직이 내려야 할 주요 결정을 식별함. 성공은 어떤 모습인가? 위원회가 홍보하고 보호하려는 가치는 무엇인가? 어떤 유형의 전문지식이 필요한가? 위원회의 권한은 무엇인가? 판단을 내리는 기준은 무엇인가?

 

인공지능 편향을 다루는 것은 매우 복잡할 수 있기 때문에, 이러한 수준의 윤리적인 거버넌스를 구축하는 것은 경영진이 불리한 위험을 완화시키는 것을 돕는데 매우 중요함. 데이터과학자 및 소프트웨어기술자는 다른 모든 사람들과 마찬가지로 편향을 가지고 있음. 이러한 편향이 알고리즘이나 훈련에 사용하는 데이터세트에 침투하도록 허용할 경우, 의도하지 않았더라도 인공지능의 대상이 되는 사람이 부당한 취급을 받는다고 느낄 수 있음. 그러나 공정한 결정을 내리기 위하여 편향을 제거하는 것은 간단한 방정식 수준이 아님.

 

편향에 대한 일상적인 대화체의 정의는 공정함을 포함하지만, 둘 사이에는 중요한 차이가 있음. 편향은 통계적 모델의 특징인 반면, 공정함은 공동체의 가치에 대한 판단임. 공정함에 대한 공유된 이해는 문화에 따라 다름. 하지만 가장 이해해야 할 것은 그들의 관계임. 직감적으로는 공정하려면 편향이 없어야 한다고 느끼겠지만, 사실 데이터과학자들은 공정함을 달성하기 위하여 종종 편향을 도입해야 함.

 

채용이나 판촉을 간소화하기 위하여 구축한 모델을 고려해보자. 만약 알고리즘이 노동인구 중 여성이 덜 대표된 과거의 데이터로 학습한다면, 여성에 대한 무수한 편향이 부상할 것임. 이를 수정하기 위하여 데이터과학자들은 편향을 도입하기로 선택할 것임. 과거 데이터에서 성별 대표성의 균형을 잡거나, 격차를 메우기 위하여 합성데이터를 만들거나, 데이터에 관한 정보에 의한 결정을 적용할 경우 균형이 맞는 치료(공정함)를 위하여 수정하는 편향을 말함. 편향이 없으면서 공정한 방식은 많은 사례에서 불가능함.

 

윤리위원회는 조직의 가치에 기초한 의도를 유지하는 것뿐만 아니라 그들이 인공지능을 어떻게 이용하는지에 대한 투명성을 높이는데 도움을 줌. 심지어 인공지능 편향이 해결되더라도, 편향은 최종 사용자들을 미치거나 좌절하게 할 수 있으며, 오늘날 인공지능을 배치하는 대부분의 회사는 사람들에게 대행권을 주지 않고 강요하고 있음. 지도어플리케이션을 이용한 경험을 생각해보자. 여행자들이 단순히 어떤 경로를 택하라고 들었을 경우 대행권을 박탈당한 느낌이지만, 다른 대안 경로와 세트로 제공받았을 경우 그들은 선택하는 동안 대행권이나 자기결정권을 더 즐겼기 때문에 더욱 확신에 참. 인공지능이 이용될 때 대행권을 최대화하는 것은 강력한 거버넌스를 보장하는데 도움이 되는 또 다른 안전장치임.

 

윤리위원회를 설치하기로 선택한 조직은 단순히 인간의 편향, 통계적 편향과 공정함을 다루려는 것이 아님. 그들의 관심 범위는 전형적으로 훨씬 넓으며, 종종 제품과 서비스가 시민사회 등 이해당사자들에게 어떤 영향을 미치는지에 관하여 조직의 성숙도를 높이려는 욕구를 포함함. 위원회에 기초한 거버넌스는 인공지능이 실제 세계에서 어떻게 돌아가고 있는지에 대한 제도적인 피드백 고리와 설계자, 기술자, 경영진에게 가치 있는 통찰을 제공함. 윤리위원회는 서로 다른 견해를 가졌으며, 내부 및 외부의 관점을 가지고 있고, 서로 다른 기술적인 배경과 기술적이지 않은 배경을 가진 개인들로 구성되어야 함. 누가 위원회의 구성원인지, 왜 선택을 받았는지, 누구에게 책임이 있는지, 그들의 목적이 무엇인지를 분명하게 생각하고 명확하게 설명해야 함.

 

이 구역을 선도하기 위하여 조직은 성장하기 위한 세 가지 영역에 초점을 맞춰야 함.

 

윤리 및 인공지능에 대한 거버넌스 구축 : 인공지능의 의도하지 않은 결과는 심각할 수 있고, 조직에 실존적인 위험을 줄 수 있음. 탄탄하고 이해당사자가 풍부한 거버넌스는 조직이 잠재적인 위험을 식별하고 관리할 최선의 기회임. 일부 조직은 필수적인 거버넌스(마찰과 사업을 지연시킬 가능성을 최소화하는 팀 기반 프로세스 통합)를 구현하는 것이 실현 가능성이 높다고 생각함. 이는 시작하기에는 편리하지만, 조직에 대한 전략적인 가치는 제한적일 것임.

 

공평함을 언제 어떻게 발생시키는지, 무슨 편향을 어떻게 설명할 것인지 : 책임지는 조직과 데이터과학자는 어떤 편향이 데이터에 존재하는지, 이를 어떻게 처리할지, 알고리즘 선택에 의하여 증폭되거나 완화되는 것은 무엇인지에 숙고하는데 엄청난 양의 시간과 자원을 투자함. 이러한 편향은 인공지능 모델의 공정함 인식에 영향을 미칠 수 있으므로, 미리 주의 깊게 고려하여야 함.

 

재협의 기전 제공 : 인공지능을 배치하는 모든 조직은 해결책이 이미 존재하는 것보다 더 나은 이유와 무슨 방법으로 그러한지 명확하게 표현할 수 있음. 이는 인공지능의 대상이 되는 사람들이 기대해야 하는 것을 확고히 함. 인공지능시스템이 최종 사용자의 기대치를 충족시키지 못할 경우, 즉각적이고 접근하기 쉬운 형태의 재협의가 필요함. 조직은 책임지는 기술자(또는 그 제품을 소유한 팀), 내부 거버넌스(인공지능 또는 윤리 위원회), 외부 거버넌스(규제당국)에 대하여 다시 협의하는 방법을 고려하여야 함.

 

조직이 인공지능에 대한 편향, 공정함, 거버넌스, 재협의를 어떻게 다루기로 선택할지는 분명히 다양할 것임. 하지만 탄탄한 거버넌스를 구축할 필요성은 모두에게 증가할 것임. 일찍 시작하는 사람은 여러 환경에서 시장의 이점을 누릴 것임. 느림보들은 그들의 디지털 위험을 관리하는 경쟁자와 그들이 이용하기로 선택한 기술의 공정함과 책임을 원하는 소비자들에 의하여 스스로 배제될 수 있음.

 

기사 및 사진 : https://hbr.org/2019/11/create-an-ethics-committee-to-keep-your-ai-initiative-in-check?mod=djemAIPro

보고서 : https://www.accenture.com/us-en/insights/software-platforms/building-data-ai-ethics-committees

List of Articles
번호 제목 키워드 조회 수

개인정보보호 Google의 ‘프로젝트 나이팅게일’은 수백만 명의 미국인에 대한 개인 건강데이터를 수집함 file

키워드 Project Nightingale, 프로젝트 나이팅게일, 구글, Ascension, 어센션, 의료기록, 건강정보, 의무기록, 의료정보 

21개 주에서 어센션(Ascension) 시설의 의료 기록을 수집하는 검색 거인    Google은 21개 주에 걸쳐 수백만의 사람들의 자세한 개인 건강 정보를 수집하고 처리하기 위해 미국 최대의 건강 관리 시스템 중 하나와 협력한 프로젝트를 진행하고 있음.   코드명 ...

  • 조회 수 123

과학기술발전 [오피니언] 인공지능 개발계획을 점검하기 위한 윤리위원회 구성 file

키워드 인공지능, Artificial Intelligence, AI, 인공지능윤리, AI ethics, 윤리위원회, ethics committee, 편향, bias, 공정함, fairness, 거버넌스, governance, 투명성, transparency, 기계학습, machine learning, 알고리즘, algorithms 

현대의 편향에 대한 민감성은 커지고 있고, 인공지능이 확산되고 도처에 존재하면서 증가할 것임. 오늘날 대부분 인공지능 시스템은 기계학습을 통하여 구축됨. 엄청나게 많은 데이터 비축량으로부터 패턴을 ‘학습’하기 위한 수천 개의 잠재적인 알고리즘 중 ...

  • 조회 수 42

낙태 미국은 종교 때문에 낙태를 거부하는 의사를 보호하는 주가 대부분 file

키워드 낙태, abortions, 종교적인 믿음, religious beliefs, 양심적인 거부, conscientious refusal, 양심에 관한 법률, conscience laws, 의료전문직, medical professionals, 환자안전, patient safety 

미국의 대부분의 주가 종교적인 믿음을 이유로 낙태 등 의학적 시술을 거부한 의사가 민사소송의 대상이 되는 것을 금지하는 법률을 통과시켰다는 연구결과가 나옴.   미국 연방 법률과 규정은 의료전문직과 병원 직원 등을 양심적인 신념에 기초한 차별로부터...

  • 조회 수 37

보건의료 키 작은 사람들을 크게 만드는 약품 개발에 대한 윤리성 문제가 제기됨 file

키워드 FDA, 왜소증, 연골형성부전증, 치료 실험약, 보소리타이드, 신약, 윤리성, BioMrin, Achondroplasia, Vosoritide, dwarfism, new drugs, ethical and social issue 

과학자들은 하루에 한 번 주사하여 어린이의 뼈가 자라는 것으로 보이는 약물을 개발함. 많은 사람들에게 왜소한 사람들의 삶을 향상시킬 수 있는 놀라운 발명품이나, 다른 이들에게는 문제를 찾는 과정에서 이익이 드리워진 해결책으로, 커뮤니티에서 수십 년...

  • 조회 수 45

생명윤리 실험실에서 그 어느 때보다 오랫동안 자란 영장류 배아 file

키워드 배아, 배양, 영장류, 중국, 성장 제한 정책, 발생학 

인간의 다양성이 접시에서 얼마나 오래 동안 자랄 수 있는지에 대한 논쟁을 20일 된 원숭이 배아가 다시 개시할 수 있음.   David Cyranoski   그들은 몸 밖에서 잘 자라는 가장 길게 존속하는 영장류 배아임. 중국의 두 그룹은 접시에서 원숭이 배아를 20일 ...

  • 조회 수 36

과학기술발전 Apple이 심장·월경·청력 연구 리서치 앱을 출시함 file

키워드 애플, 과학기술발전, 앱리서치, 의학연구앱, 아이폰, HIPPA, Apple, Science Technology Development, APP research, research, medical research application, iPhone, Applewatch 

Apple은 리서치(Research)라는 새로운 선택형 의학 연구앱에 대한 지원이 포함된 iOS 13.2 출시에 이어,  독립형 앱과 첫 3가지 연구, “애플 심장 및 움직임 연구(Apple Heart and Movement Study)”, “애플 여성 건강 연구(Apple Women's Health Study)” 및 “...

  • 조회 수 97

연명의료 및 죽음 사전의료계획을 세워도 보건의료를 덜 이용하지는 않음 file

키워드 사전의료계획, 사전돌봄계획, advance care planning, ACP, 생애말기, end of life, 말기환자, seriously ill patients, 보건의료이용, health care utilization, 집중치료, intensive therapies, 호스피스, hospice, 사망률, mortality, 의료비, health care costs, POLST, Medicare, JAMA Network Open 

미국에서 사전의료계획을 세운 환자는 호스피스이용률이 높지만, 생애말기에 공격적인 치료를 청할 가능성은 줄지 않음. 이 같은 연구결과가 저널(JAMA Network Open)에 실림.   보건의료종사자와 보험지불자는 비용을 관리하는 경로이자 환자와 가족에게 이득...

  • 조회 수 56

인간대상연구 공공 데이터베이스에 더 많은 임상시험결과가 게시되고 있으나 데이터 품질은 아직 부족함 file

키워드 임상시험, 임상시험정보 등록 공개제도, 임상시험 결과 등록, 데이터 공유, 데이터 품질, ClinicalTrials.gov, clinical trial, Recording and reporting clinical trial results, Public Disclosure of Clinical Trial Results, data sharing, data quality 

ClinicalTrials.gov에서 지난 10년간 연구결과를 검토한 첫 보고서에 따르면 제약회사와 학계 연구센터에서 인간대상연구 결과를 보고하는데 느린 진전을 거두었으나, 데이터의 질은 여전히 ​​더 큰 문제를 제시할 수 있다고 밝힘.   임상시험 결과를 수용하기...

  • 조회 수 43

인간대상연구 중국의 BeiGene社가 미국 FDA로부터 림프종 치료제로의 판매 승인을 얻음 file

키워드 임상시험, 중국, 림프종, FDA, 판매허가 

지난 목요일 미국 식품의약국(The U.S. Food and Drug Administration, 이하 FDA)은 승인신청을 위해 미국 외의 임상시험 결과를 주로 이용한 중국의 BeiGene社의 림프종 치료제를 승인했음.   이 회사는 2개의 임상시험에 등록된 외투세포림프종 환자 118명을...

  • 조회 수 64

장기 및 인체조직 적어도 5년 동안 심장이식을 견뎌낸 사람이 4분의 3이라는 연구결과가 나옴 file

키워드 심장이식, heart transplant, 분배시스템, allocation system, 이식센터, transplant center, 수혜자, recipients, 이식대기자, transplant candidates, 대기자목록, waiting lists, 이식 후 생존, post-transplant survival, 생존 편익, survival benefit 

심장수술이 목숨을 구하는 수술이라는 것은 굳이 말할 필요가 없을 것임.   미국의 심장분배시스템은 심장이식대기자들을 의학적 긴급성 대신 이식센터가 기술한 지지적 치료에 따라 순위를 매김. 한 연구팀은 미국의 이식센터와 심장이식과 관련된 생존편익 ...

  • 조회 수 23

인간대상연구 [오피니언] 의약품·의료기기 소송에서의 기밀 유지 명령은 환자와 일반대중에게 위해를 끼침 file

키워드 생명윤리, 의약품·의료기기 소송, 기밀유지명령, 임상연구, 투명성. 오피오이드, bioethics, drug/device lawsuit, Confidentiality orders, clinical research, transparency, opioid 

2001년 West Virginia는 OxyConti (옥시코돈 ER)의 제조사인 Purdue Pharma를 고소한 최초의 주(州)가됨. 소송 도중 기밀문서 교환의 일환으로 Purdue가 옥시콘틴이 12시간의 통증 완화를 제공하지 않는다는 점을 알고 있었다는 사실이 공개됨.   이 공개는 두...

  • 조회 수 39

의료윤리 생명윤리학자들이 ‘시도할 권리’ 줄기세포시장을 우려함 file

키워드 줄기세포치료, stem cell therapies, 무허가, unapproved, 실험적 치료, experimental therapies, 시도할 권리, Right to Try, 소비자 직접 의뢰, direct-to-consumer, DTC, 취약한 환자, vulnerable patients, FDA, 허가, 승인, authorization, 감독, oversight, IND 

미국 생명윤리학자들은 소비자가 직접 의뢰하는 무허가 줄기세포치료시장의 급속한 확대에 대한 수상쩍은(murky) 감독으로 어려움을 겪는 상황에서, 적어도 한 업체 이상이 그러한 제품을 팔기 위하여 취한 새로운 경로에 대하여 우려를 제기함.   그 경로는 2...

  • 조회 수 28

개인정보보호 골든 스테이트 킬러(Golden State Killer)를 찾는 데 사용되는 DNA 데이터베이스는 국가 보안 유출이 일어날 수 있음 file

키워드 GEDmatch, DNA 계보 데이터베이스, DNA, 혈통, 계통, 계보, 유전정보, 건강정보, 프라이버시, 개인정보보호, 개인정보침해 

보안연구원에 따르면 경찰이 범죄자를 잡기 위해 사용한 개인 DNA 계보 데이터베이스는 한 국가가 수백만 명의 미국인에 대한 DNA 데이터를 훔칠 수 있는 보안위험이 있다고 함.   GEDmatch라는 서비스의 보안 결함은 사람들의 유전 건강 정보를 노출시킬 위험...

  • 조회 수 35

보조생식 및 출산 6ft(약 180cm)의 키 큰 기증자를 고른 후 난쟁이를 낳은 엄마가 정자은행 고소 file

키워드 난쟁이, 건강, 생활, 모스크바, 러시아, 정자 기증자, 불임클리닉, IVF 

한 여성이 웹사이트에서 키가 6ft인 기증자를 선택했음에도 불구하고 왜소증을 앓고 있는 아이를 낳은 후 정자은행을 고소함.   자신의 정체를 밝히지 않은 40대 성공한 작가인 이 여성은 사이트의 남성 사진을 보고 아이 아버지를 선택했다고 밝힘.   남자의 ...

  • 조회 수 34

생명윤리 [오피니언] 생명윤리에 대한 무지(Illiteracy)가 야기하는 조용한 위기 file

키워드 생명윤리, bioethics, 문해력, literacy, 의학적 결정, medical decision, 윤리적 딜레마, ethical dilemmas, 양극화, polarization, 교육, education, 담론, discourse, 생명윤리위원회, bioethics commission 

많은 미국인들은 본인이나 사랑하는 사람을 위하여 일생동안 중대한 의학적 결정에 맞닥뜨릴 것임. 종종 그들이 정면으로 부딪히는 선택은 힘든 윤리적인 질문을 제기함. 예를 들면 친척의 연명의료를 중단할 것인지, 가족에게 장기를 기증할 것인지, 산전검사...

  • 조회 수 70

장기 및 인체조직 뇌 오가노이드에 관한 과학자들의 윤리적 경계 file

키워드 생명윤리, 뇌 오가노이드, 신경과학, 연구대상자 

연구자들이 경고하기를, 신경과학자들이 연구실에서 인간의 뇌 덩어리들을 배양하고, 어떤 경우 신경조직을 동물들에 심음으로, 윤리적 차원에서 이미 돌이킬 수 없는 강을 건넜을 수도 있다고 함. 현대 신경과학에서 미니 브레인 혹은 뇌 오가노이드(organoid...

  • 조회 수 67

장기 및 인체조직 실험실에서 배양한 미니 뇌의 윤리적 문제 file

키워드 생명윤리, 뇌, 신경과학, 오가노이드 

과학자들이 연구실에서 뇌를 배양해낼 수 있는 수준에 빠르게 접근하고 있음. 여기서 의미하는 것은 인공지능이 아니라 실제 회백질임. 줄기세포가 인간의 피부 혹은 혈액에서 추출되어 뇌에서 중앙처리장치(CPU) 역할을 하는 피질에서 신경 세포로 성장하도...

  • 조회 수 26

과학기술발전 [오피니언] 인공지능: 두려워 할 것은 무엇인가? file

키워드 인공지능, 인공지능 윤리 

2017년 카네기멜론 대학교의 과학자들은 포커 게임에서 고수들을 상대로 승리를 거둘 수 있는 컴퓨터를 설계해서 세상을 놀라게 함. 이렇듯 컴퓨터들은 오래 전부터 계산, 목록 작성 등 특정 기술들에서는 이미 인간을 넘어섬을 보여줌. 하지만 그들은 전통적...

  • 조회 수 21

보건의료 비용효과분석이 차별적이며 장애인의 일부 치료에 대한 접근을 제한한다는 연구보고서가 나옴 file

키워드 장애, disability, 의료접근성, access to care, 삶의 질, quality of life, 비용효과, cost-effectiveness, 질보정수명, QALYs, 보험적용, coverage, 최선의 관행, best practices, 국가위원회, NCD 

미국 국가장애위원회(NCD; National Council on Disability)는 질보정수명(QALYs; Quality-Adjusted Life Years)이 비용효과측정도구로 충분한 근거가 있는지를 분석하여 ‘질보정수명과 장애인의 삶 평가저하’ 보고서를 발간함. 질보정수명은 민간 및 공공 의...

  • 조회 수 51

인간대상연구 모든 영국 아기들의 유전체 분석은 윤리적인 지뢰가 될 것임 file

키워드 영국, 국가건강서비스, 유전체, 유전자, 유전자검사, 질병, 치료 

지난 주 보건부 장관 Matt Hancock는 20,000명의 어린이 대상의 예비 테스트를 시작으로 영국에서 태어난 모든 아기들의 DNA 검사를 하겠다는 국가 건강 서비스(National Health Service, 이하 NHS)의 계획을 발표했음. 영국이 첨단 건강 관리 분야를 선도하고...

  • 조회 수 24