해외언론동향
해외언론동향 내용 담당 :생명윤리안전정책연구팀 : 02-737-8452,
게재 일자 : 2019-03-12 
키워드 : 자율주행차, self-driving cars, autonomous vehicle, 알고리즘, algorithms, 알고리즘 편향, algorithmic bias, 데이터세트, dataset, 객체감지모델, object-detection models 

자율주행차에 대한 우려사항 목록이 늘어나고 있음. 얼마나 안전한지, 도로에서 곤란한 도덕적인 타협(tricky moral trade-offs)을 어떻게 이루는지, 교통체증을 어떻게 악화시키는지를 넘어서, 유색인종 사람들에게 어떻게 해를 끼칠 수 있는 지까지 걱정할 필요가 있음.

 

미국 조지아공대(Georgia Institute of Technology)의 연구에 따르면 어두운 피부색인 경우 밝은 피부색인 경우보다 자율주행차에 치일 가능성이 높다고 함. 밝은 피부 톤을 가진 보행자를 더 잘 감지하기 때문임.

 

연구팀은 자율주행차에 쓰이는 최신기술인 객체감지(Object Detection)모델이 다양한 인구집단을 얼마나 정확하게 감지하는가?’라는 간단한 질문에서 연구를 시작함. 이를 알아내기 위하여 보행자 이미지가 들어있는 데이터세트를 살펴봄. 피부 톤을 밝은 색에서 어두운 색까지 분류하는 Fitzpatrick 척도를 사용하여 데이터를 분류함. 이어 피부 톤이 밝은 경우(Fitzpatrick 1~3)와 어두운 경우(4~6)에 얼마나 정확하게 감지했는지를 비교분석함.


해외언론동향_20190312_2_본문.png

 

연구결과 피부 톤이 어두운 집단에 대해서는 감지율이 5%p 덜 정확한 것으로 나타남. 연구팀이 이미지에서 시간대나 시야를 가리는 방해물과 같은 변수를 통제해도 그 차이는 계속됨.

 

연구자(Jamie Morgenstern)공통적인 구조를 공유하는 시각체계를 더 자세히 살펴봐야 한다고 밝힘. ‘객체감지의 예측 불균등성(Inequity)’ 연구보고서는 액면 그대로 받아들여서는 안 됨. 동료평가를 받지 않았으며, 객체감지모델이 실제로 자율주행차에 쓰이는지 시험하지 않았고, 자율주행차 제조사에서 사용하는 훈련용 데이터세트를 이용하지도 않았음. 대신 학계 연구자들이 사용하는 여러 모델과 공개적으로 사용할 수 있는 데이터세트를 이용함. 제조사가 그들의 데이터를 공개하지 않기 때문임. 이는 대중의 관심사임을 감안하면 심각한 문제임.

 

그렇다고 해서 그 연구가 가치가 없다는 의미는 아님. 이번 연구에 참여하지 않았던 한 전문가(Kate Crawford, a co-director of the AI Now Research Institute)이상적인 세계에서는 학자들이 자율주행차 제조사가 사용하는 실제 모델과 훈련 세트를 시험하고 있을 것이라면서 현실에서는 결코 이용할 수 없으며, 보고서는 매우 현실적인 위험에 대한 강한 통찰(insights)을 제공한다고 밝힘.

 

알고리즘에는 설계자의 편견(bias)이 영향을 미침. 이 연구의 통찰은 인간의 편견이 어떻게 우리의 자동화된 의사결정체계에 침투하는지를 보여줌. 이는 알고리즘 편향이라고도 불림.

 

가장 유명한 사례는 2015년 구글(Google)의 이미지인식시스템이 아프리카계 미국인을 고릴라라고 표기하면서 드러남. 3년 후 아마존(Amazon)의 인식시스템은 28명의 국회의원을 범인 식별용 얼굴사진(criminal mugshots)과 매칭해서 비난을 삼.

 

또 다른 연구는 IBM, Microsoft, Megvii의 안면인식시스템이 피부가 밝은 사람보다 어두운 사람의 성별(특히 여성)을 잘못 식별할 가능성이 높다는 사실을 발견함. 알고리즘체계는 그들이 공급받은 사례로 학습하기 때문에, 학습단계에서 흑인 여성의 사례를 충분히 얻지 못하면, 배치되었을 때 그들을 인식하는데 어려움을 겪게 되는 것임.

 

연구팀은 두 가지 요인이 사례의 불균형(disparity)을 부채질하고 있을 가능성이 있다고 지적함. 객체감지모델은 대부분 피부가 밝은 보행자의 사례로 훈련을 받았고, 몇 안 되는 피부가 어두운 보행자의 사례를 학습하는 것에 충분한 비중을 두지 않은 것임.

 

연구팀은 훈련용 자료에 특정 사례에 비중을 더 두어 편향을 바로잡는 것을 도울 수 있다는 점을 발견함. 그래서 처음부터 피부 톤이 어두운 사례를 많이 포함할 수 있었음.

 

알고리즘 편향의 광범위한 문제에 대해서는 일반적으로 두 가지 해결책을 제안함. 첫째, 새로운 기술을 개발하는 팀이 인종적으로 다양하도록 구성하는 것임. 백인, 남성으로만 구성된 팀은 알고리즘이 흑인 여성을 어떻게 처리하는지를 확인하지 않을 가능성이 있음. 만약 그 팀에 흑인 여성이 있었다면 달라질 것임.

 

둘째, 기업이 알고리즘에 편향이 있는지 시험하도록 의무화하고, 출시 전에 공정성 기준을 충족한다는 것을 증명하도록 하는 것임.

 

기계지능을 위한 지침의 저자(Kartik Hosanagar)편향에 대한 명시적인 검사가 유용하다고 생각한다면서 팀 구성원을 인종, 성별, 국적을 고려하여 구성하는 것은 어렵기 때문에 인종 편향을 검사하는 것이 더 효과적이라고 밝힘.

 

두 가지 해결책은 서로 배타적이지 않음. 논란의 여지가 있지만, 유색인종이 이용을 강요받기 전에 인종에 대한 편견을 근절하기 위해 할 수 있는 모든 것을 하는 것이 기업의 최선의 이익에 부합함.

 

기사 : https://www.vox.com/future-perfect/2019/3/5/18251924/self-driving-car-racial-bias-study-autonomous-vehicle-dark-skin

연구보고서 및 사진 : https://arxiv.org/pdf/1902.11097.pdf


List of Articles
번호 제목 키워드sort 조회 수

인간대상연구 희귀질환 관련 여러 임상시험이 환자들을 앞다퉈 빼앗음(scramble) [8월 24일] file

키워드 희귀질환, 임상시험, 대상자 모집, 제약회사, 신약개발 경쟁, 환자단체, 식품의약품국, FDA 

〇 연구자들과 니만-피크(Niemann-Pick) 유전질환을 앓고 있는 어린 환자의 가족들의 수년간의 노력에 힘입어 3개 제약회사가 치료법을 개발하기 위한 임상시험을 시작하고 있음. 니만-피크질환은 선천적 유전질환임. 경련, 걷는 능력의 손실, 말하는 능력의 ...

  • 조회 수 392

인간대상연구 [연구결과] 희귀질환을 앓는 아이가 임상시험 약물을 통해 희망을 얻음 [4월 25일] file

키워드 희귀난치성질환, a rare incurable disease, 조로증, progeria, HGPS, 임상시험 약물, experimental drug, JAMA 

급속한 노화와 조기 사망을 야기하는 희귀난치성질환을 가진 아이들이 임상시험 약물로 더 오래 살게 된 것으로 나타남. 이 같은 연구결과는 미국의사협회지(Journal of the American Medical Association)에 실림.   질환명은 허친슨 길포오드 조로증 증후군(...

  • 조회 수 85

과학기술발전 [오피니언] 인공지능이 보건의료를 혁신하려면 환자의 목소리가 필요함 file

키워드 환자의 이야기, patients’ stories, 인공지능, artificial intelligence, AI, 기계학습, machine learning, 전자의무기록, electronic health records, EHRs, 의사-환자 의사소통, doctor-patient communication, Time, Nature 

환자의 이야기(환자의 과거력 포함)는 의학의 기반(bedrock)임. 현대의학의 창시자(William Osler)의 “환자의 말을 들어라: 환자는 당신에게 진단을 말하고 있다”는 문구는 오늘날까지도 여전히 참(true)임. 전자의무기록에서 환자들의 이야기가 사라진 것은 ...

  • 조회 수 94

개인정보보호 환자 데이터가 개인 데이터 프라이버시를 유지하면서 과학연구를 발전시킬 수 있는 방법 file

키워드 환자데이터, 빅데이터, 개인정보, 민감정보, CHALLENGE 컨소시엄, 유럽연합 개인정보보호규정, GDPR 

나이가 들면, 우리 몸은 퇴화되고 노화가 소위 퇴행성 질병의 가장 중요한 단일 위험 요소라는 것을 알고 있음. 그러나 우리는 왜 그런지 그 이유를 이해하지 못함. 필사적으로 그것을 피하려고 하는 사람들에게조차 노령은 노쇠함, 장애, 그리고 결국 죽음과...

  • 조회 수 84

보건의료 환자들을 의료기록과 매칭시키는 것이 왜 그리 어려운가? file

키워드 환자기록, 의무기록, 의료비, 오진, 환자안전, 의료시스템, HITECH Act, Health Information Technology for Economic and Clinical Health Act, 전자의무기록, EMR, 환자매칭 

환자와 기록의 매칭은 돈 낭비와 환자 안전에 대한 위협으로 모든 병원 의원들을 괴롭히는 문제임. 전문가들은 이 문제를 파악하고자 함.   2019년 3월 20일 Lola Butcher   2018년 연례 유방 검사를 실시한지 2일 후 킬리 아르네스(Keely Aarnes)는 여성이라...

  • 조회 수 171

의료윤리 美 연구팀, 환자-의사 간 감정적으로 조화(fit)될수록 환자가 의학적 권고를 잘 따라 [4월 6일] file

키워드 환자-의사관계, 전문직윤리, 의료윤리, 환자와의 신뢰, 감정적 상태, 심리학 연구 

〇 환자가 이상적으로(ideally) 추구하는 감정과 담당 의료진의 감정이 유사하여 감정적으로 강력하게 조화되면, 환자가 그 의료진의 의학적 권고를 잘 따른다는 연구결과가 제시됨. 이 같은 미국 스탠포드대 연구팀의 연구결과는 미국 심리학회(American Psy...

  • 조회 수 495

과학기술발전 인간-닭 혼합(Hybrid)배아로 주요 배아발달단계를 밝힘[5월25일] file

키워드 혼합배아, 하이브리드, 인간배아, 초기발달과정, organizer, 

□ 인간-닭 혼합(Hybrid)배아로 주요 배아발달단계를 밝힘[5월25일]   세포의 클러스터가 배아로 발전하기 전에 어떤 사건이 일어나는지에 대한 과정은 지금까지 인간에게서 관찰된 적이 없음. 새로운 기술은 인간배아가 필요없이 인간발달의 가장 초기단계를 ...

  • 조회 수 158

연명의료 및 죽음 독일에서는 어떻게 죽을까? [6월 23일] file

키워드 호스피스, 완화의료, 의사조력자살, 안락사, 가정호스피스, 전문직윤리, 의사윤리강령 

〇 독일 하원(Bundestag)은 완화의료에 기금을 지원하여 호스피스-완화의료(hospice and palliative care)시스템을 향상시키고 확대하기 위한 법안(bill)을 논의하고 있음. 반면 하원 부의장(vice president)을 포함한 하원의 한 그룹은 그 논의 한 시간 전에 ...

  • 조회 수 549

연명의료 및 죽음 호스피스(hospice care)로의 변화가 의료비용을 증가시키고 있음 [5월 11일] file

키워드 호스피스, 완화의료, 의료비용, 의료보험, 생의 말기 

〇 요양원에서 거주하는 백 만 명의 미국인 중 4분의 3을 대상으로 하는 새로운 연구에 따르면, 2004년부터 2009년 사이에 호스피스 이용인구가 증가했지만, 요양원에서 죽어가는 사람들에 대한 의료보험 비용 감소는 없었음. 연구결과는 New England Journal...

  • 조회 수 578

연명의료 및 죽음 삶의 마지막에 덜 공격적인 의료를 받은 암환자의 가족들이 더 행복하다는 연구결과가 나옴 [1월 20일] file

키워드 호스피스, 완화의료, 연명의료, 중환자실, 삶의 마지막 

암으로 죽어가는 사랑하는 사람의 삶의 마지막 의료에 대해 가족들은 안위에 초점을 맞춘 경우에 공격적인 치료에 초점을 맞춘 경우보다 더 만족한다는 미국의 연구결과가 나옴. 이 연구는 미국의사협회지(Journal of the American Medical Association) 최신...

  • 조회 수 371

연명의료 및 죽음 호스피스이용이 요양원에서 장기입원에 따른 비용을 늘리지는 않는다는 연구결과가 나옴 [5월 9일] file

키워드 호스피스, hospiece, 요양원, nursing home, 의료비, 메디케어, 메디케이드 

호스피스서비스 이용이 요양원에서 장기간 입원하다 사망한 환자들의 마지막 6개월 동안의 의료비를 늘리지는 않는다는 연구결과가 나옴. 이 같은 연구결과는 미국노인병학회지(Journal of the American Geriatrics Society)에 실림.     입원 및 요양원의 급...

  • 조회 수 626

연명의료 및 죽음 [연구] 뚱뚱할수록 호스피스 덜 받아 [2월 9일] file

키워드 호스피스, hospice care benefit, end-of-life care, 메디케어, medicare, 비만, obesity, BMI, cachexia, Health and Retirement Study 

비만이 호스피스서비스 이용과 연관이 있는 것으로 나타남. 이 같은 연구결과는 미국 내과학연보(Annals of Internal Medicine) 2월 7일자에 실림. 연구팀은 미국 건강과 은퇴 연구(Health and Retirement Study : 국가차원의 50세 이상 대표성이 있는 샘플) ...

  • 조회 수 2172

인간대상연구 입을 수 있는 인공신장이 혈액투석기의 대안이 될 것으로 기대된다는 연구가 나옴 [6월 8일] file

키워드 혈액투석, dialysis machines, 인공신장, wearable artificial kidney, 말기신장질환, ESRD, 임상시험 

전세계적으로 2백만명이 만성신부전으로 인하여 혈액투석을 받고 있을 것으로 추정됨. 환자가 혈액투석을 받는 동안에는 침상 밖으로 이동할 수 없어서 일상생활에서 어려움을 겪고 있음. 워싱턴대(University of Washington)의 한 연구팀은 지속적으로 작동하...

  • 조회 수 607

과학기술발전 연구자들이 혈액줄기세포(blood stem cells)의 유전체 편집을 진행시킴. [11월12일] file

키워드 혈액줄기세포, 유전체편집, 조혈줄기모세포, 인간면역결핍바이러스, HSPCs, HIV, ZFN, 유전자가위, 유전자편집 

USC (University of Southern California) 와 Sangamo BioSciences의 연구팀에 의해 혈액줄기세포의 유전체 조작 기술이 개선되었음. Nature Biotechnology의 곧 있을 연구에서, 공동 제1저자인 USC의 콜린 M 엑슬린(Colin M. Exline) 박사와 Sangamo BioScie...

  • 조회 수 435

보조생식 및 출산 혈액검사를 통해 정확한 출산예정일을 알 수 있으며, 산전관리를 향상시킬 수 있음[6월11일] file

키워드 혈액검사, RNA, 출산예정일, 조기출산, 산전관리 

□ 혈액검사를 통해 정확한 출산예정일을 알 수 있으며, 산전관리를 향상시킬 수 있음[6월11일]   현재 임산부의 실제 출산일에 대한 정보는 단지 추정에 의하여 제공될 뿐임. 이것은 불편할 뿐 아니라 엄마와 아기 모두에 대한 추가 의료절차로 이어질 수 있음...

  • 조회 수 110

장기 및 인체조직 한 연구진이 혈관을 가진 폐 지지체를 만들어내는데 성공 [9월 6일] file

키워드 혈관을 가진 폐 지지체, vascularized lung scaffold, 말기폐질환, End-stage lung disease 

컬럼비아대 연구진은 혈관을 가진(vascularized) 폐 지지체(scaffold)를 만들어냄. 이 연구는 사이언스 어드밴스(Science Advances) 저널에 실림. 폐 지지체란 상피세포는 제거되어 있지만 혈관 망(network)과 폐 모체(matrix)의 생존능력과 기능은 가지고 있...

  • 조회 수 146

장기 및 인체조직 유럽사법재판소, 프랑스 남성 동성애자(gay) 헌혈금지는 ‘정당화될 수도 있음’ [4월 30일] file

키워드 헌혈, 헌혈 금지, 헌혈 적격성, 수혈 안전, 동성애자, 유럽사법재판소 

〇 프랑스에서 남성 동성애자 헌혈금지조치는 대안이 없을 때에 한하여 정당화될 수 있을 것이라고 유럽연합(EU) 내 최고 법원이 밝힘. 유럽사법재판소(ECJ; European Court of Justice)는 인간면역결핍바이러스(HIV)와 같은 질병으로부터 보호하기 위하여 ‘...

  • 조회 수 548

과학기술발전 헌팅턴병 관련 단백질 생성을 막는 ‘유전자 침묵(gene silencing)’ 약제를 실험 중임 [11월 2일] file

키워드 헌팅턴병, 유전자침묵, 뇌척수액, 분자의학, DNA, 단백질, 유전질환, 퇴행성신경질환, 안전성, 유전정보 

□ 브리티쉬 콜럼비아 대학은 헌팅턴병에서 뇌에 영향을 끼치는 유독한 단백질의 생성을 막게 디자인 된 새로운 ‘유전자 침묵(gene silencing)’ 약제를 실험 중임. 임상실험은 실험적인 약제인 ‘ISIS-HTT’의 안전성을 증명하기 위해 이 질병의 초기 증상을 보이...

  • 조회 수 624

인간대상연구 헌팅턴병에 걸린 사람을 대상으로 하는 실험약이 유전자기능장애를 일으킴 file

키워드 헌팅턴, 헌팅턴병, 유전자, 임상시험, 돌연변이, 로슈, 질병유전자, 유전병, Huntington 's disease 

과학자들은 하나의 약물이 헌팅턴 병(Huntington 's disease)이라는 파괴적인 질병을 일으키는 유전자를 침묵시킬 수 있는지 알기 위한 주요 연구를 준비하고 있음. 어떤 실험 약물이 마음을 빼앗는 질병을 일으키는 손상된 단백질의 수준을 감소시킴을 발견한...

  • 조회 수 139

연명의료 및 죽음 이탈리아 헌법재판소, 조력자살이 항상 범죄는 아니라고 판결 file

키워드 헌법재판소, constitutional court, 조력자살, assisted suicide, 안락사, euthanasia, 연명의료, life-support treatments, 윤리위원회, ethical committee, 양심적 거부, conscientious objection, 전문직 강령, professional code, 자기결정, self-determination, 존엄, dignity 

사지마비 시각장애인 DJ가 사망하는 것을 도운 활동가에 대한 재판은 새로운 법률로 이어질 수 있음.   이탈리아 헌법재판소는 ‘감당할 수 없는 고통’을 받는 사람이 자살하는 것을 돕는 행위가 항상 범죄인 것은 아니라고 판결하면서, 가톨릭 국가에서 법률을...

  • 조회 수 20