해외언론동향
해외언론동향 내용 담당 : 배아정책연구팀 02-737-8452
게재 일자 : 2019-03-12 
키워드 : 자율주행차, self-driving cars, autonomous vehicle, 알고리즘, algorithms, 알고리즘 편향, algorithmic bias, 데이터세트, dataset, 객체감지모델, object-detection models 

자율주행차에 대한 우려사항 목록이 늘어나고 있음. 얼마나 안전한지, 도로에서 곤란한 도덕적인 타협(tricky moral trade-offs)을 어떻게 이루는지, 교통체증을 어떻게 악화시키는지를 넘어서, 유색인종 사람들에게 어떻게 해를 끼칠 수 있는 지까지 걱정할 필요가 있음.

 

미국 조지아공대(Georgia Institute of Technology)의 연구에 따르면 어두운 피부색인 경우 밝은 피부색인 경우보다 자율주행차에 치일 가능성이 높다고 함. 밝은 피부 톤을 가진 보행자를 더 잘 감지하기 때문임.

 

연구팀은 자율주행차에 쓰이는 최신기술인 객체감지(Object Detection)모델이 다양한 인구집단을 얼마나 정확하게 감지하는가?’라는 간단한 질문에서 연구를 시작함. 이를 알아내기 위하여 보행자 이미지가 들어있는 데이터세트를 살펴봄. 피부 톤을 밝은 색에서 어두운 색까지 분류하는 Fitzpatrick 척도를 사용하여 데이터를 분류함. 이어 피부 톤이 밝은 경우(Fitzpatrick 1~3)와 어두운 경우(4~6)에 얼마나 정확하게 감지했는지를 비교분석함.


해외언론동향_20190312_2_본문.png

 

연구결과 피부 톤이 어두운 집단에 대해서는 감지율이 5%p 덜 정확한 것으로 나타남. 연구팀이 이미지에서 시간대나 시야를 가리는 방해물과 같은 변수를 통제해도 그 차이는 계속됨.

 

연구자(Jamie Morgenstern)공통적인 구조를 공유하는 시각체계를 더 자세히 살펴봐야 한다고 밝힘. ‘객체감지의 예측 불균등성(Inequity)’ 연구보고서는 액면 그대로 받아들여서는 안 됨. 동료평가를 받지 않았으며, 객체감지모델이 실제로 자율주행차에 쓰이는지 시험하지 않았고, 자율주행차 제조사에서 사용하는 훈련용 데이터세트를 이용하지도 않았음. 대신 학계 연구자들이 사용하는 여러 모델과 공개적으로 사용할 수 있는 데이터세트를 이용함. 제조사가 그들의 데이터를 공개하지 않기 때문임. 이는 대중의 관심사임을 감안하면 심각한 문제임.

 

그렇다고 해서 그 연구가 가치가 없다는 의미는 아님. 이번 연구에 참여하지 않았던 한 전문가(Kate Crawford, a co-director of the AI Now Research Institute)이상적인 세계에서는 학자들이 자율주행차 제조사가 사용하는 실제 모델과 훈련 세트를 시험하고 있을 것이라면서 현실에서는 결코 이용할 수 없으며, 보고서는 매우 현실적인 위험에 대한 강한 통찰(insights)을 제공한다고 밝힘.

 

알고리즘에는 설계자의 편견(bias)이 영향을 미침. 이 연구의 통찰은 인간의 편견이 어떻게 우리의 자동화된 의사결정체계에 침투하는지를 보여줌. 이는 알고리즘 편향이라고도 불림.

 

가장 유명한 사례는 2015년 구글(Google)의 이미지인식시스템이 아프리카계 미국인을 고릴라라고 표기하면서 드러남. 3년 후 아마존(Amazon)의 인식시스템은 28명의 국회의원을 범인 식별용 얼굴사진(criminal mugshots)과 매칭해서 비난을 삼.

 

또 다른 연구는 IBM, Microsoft, Megvii의 안면인식시스템이 피부가 밝은 사람보다 어두운 사람의 성별(특히 여성)을 잘못 식별할 가능성이 높다는 사실을 발견함. 알고리즘체계는 그들이 공급받은 사례로 학습하기 때문에, 학습단계에서 흑인 여성의 사례를 충분히 얻지 못하면, 배치되었을 때 그들을 인식하는데 어려움을 겪게 되는 것임.

 

연구팀은 두 가지 요인이 사례의 불균형(disparity)을 부채질하고 있을 가능성이 있다고 지적함. 객체감지모델은 대부분 피부가 밝은 보행자의 사례로 훈련을 받았고, 몇 안 되는 피부가 어두운 보행자의 사례를 학습하는 것에 충분한 비중을 두지 않은 것임.

 

연구팀은 훈련용 자료에 특정 사례에 비중을 더 두어 편향을 바로잡는 것을 도울 수 있다는 점을 발견함. 그래서 처음부터 피부 톤이 어두운 사례를 많이 포함할 수 있었음.

 

알고리즘 편향의 광범위한 문제에 대해서는 일반적으로 두 가지 해결책을 제안함. 첫째, 새로운 기술을 개발하는 팀이 인종적으로 다양하도록 구성하는 것임. 백인, 남성으로만 구성된 팀은 알고리즘이 흑인 여성을 어떻게 처리하는지를 확인하지 않을 가능성이 있음. 만약 그 팀에 흑인 여성이 있었다면 달라질 것임.

 

둘째, 기업이 알고리즘에 편향이 있는지 시험하도록 의무화하고, 출시 전에 공정성 기준을 충족한다는 것을 증명하도록 하는 것임.

 

기계지능을 위한 지침의 저자(Kartik Hosanagar)편향에 대한 명시적인 검사가 유용하다고 생각한다면서 팀 구성원을 인종, 성별, 국적을 고려하여 구성하는 것은 어렵기 때문에 인종 편향을 검사하는 것이 더 효과적이라고 밝힘.

 

두 가지 해결책은 서로 배타적이지 않음. 논란의 여지가 있지만, 유색인종이 이용을 강요받기 전에 인종에 대한 편견을 근절하기 위해 할 수 있는 모든 것을 하는 것이 기업의 최선의 이익에 부합함.

 

기사 : https://www.vox.com/future-perfect/2019/3/5/18251924/self-driving-car-racial-bias-study-autonomous-vehicle-dark-skin

연구보고서 및 사진 : https://arxiv.org/pdf/1902.11097.pdf


List of Articles
번호 제목 키워드sort 조회 수

인간대상연구 희귀질환 관련 여러 임상시험이 환자들을 앞다퉈 빼앗음(scramble) [8월 24일] file

키워드 희귀질환, 임상시험, 대상자 모집, 제약회사, 신약개발 경쟁, 환자단체, 식품의약품국, FDA 

〇 연구자들과 니만-피크(Niemann-Pick) 유전질환을 앓고 있는 어린 환자의 가족들의 수년간의 노력에 힘입어 3개 제약회사가 치료법을 개발하기 위한 임상시험을 시작하고 있음. 니만-피크질환은 선천적 유전질환임. 경련, 걷는 능력의 손실, 말하는 능력의 ...

  • 조회 수 407

인간대상연구 [연구결과] 희귀질환을 앓는 아이가 임상시험 약물을 통해 희망을 얻음 [4월 25일] file

키워드 희귀난치성질환, a rare incurable disease, 조로증, progeria, HGPS, 임상시험 약물, experimental drug, JAMA 

급속한 노화와 조기 사망을 야기하는 희귀난치성질환을 가진 아이들이 임상시험 약물로 더 오래 살게 된 것으로 나타남. 이 같은 연구결과는 미국의사협회지(Journal of the American Medical Association)에 실림.   질환명은 허친슨 길포오드 조로증 증후군(...

  • 조회 수 104

생명윤리 과학이 황야심리치료(Wilderness Therapy)의 ‘황야(Wilderness)’를 지지하는가? file

키워드 황야심리치료, wilderness therapy, 거주치료, residential treatment, 감정·행동문제, emotional and behavioral problems, 실험적 치료, experimental treatment, 과학적 근거, scientific evidence, 근거기반, evidence-based, 무작위대조군시험, randomized controlled trial, 윤리적 문제, ethical issues, 재정적 이해관계, financial interest 

문제가 많은 10대를 위한 비싼 중재프로그램은 진화했지만, 연구자들은 여전히 핵심 문제에 대해 다른 의견을 냄. 왜 황야일까?   Katherine Gibbons는 학교를 결석하고 보드카 1리터를 훔쳐 슈퍼마켓 뒤에서 들이켬. 그녀의 어머니는 위치추적어플을 통해 딸...

  • 조회 수 36

과학기술발전 [오피니언] 인공지능이 보건의료를 혁신하려면 환자의 목소리가 필요함 file

키워드 환자의 이야기, patients’ stories, 인공지능, artificial intelligence, AI, 기계학습, machine learning, 전자의무기록, electronic health records, EHRs, 의사-환자 의사소통, doctor-patient communication, Time, Nature 

환자의 이야기(환자의 과거력 포함)는 의학의 기반(bedrock)임. 현대의학의 창시자(William Osler)의 “환자의 말을 들어라: 환자는 당신에게 진단을 말하고 있다”는 문구는 오늘날까지도 여전히 참(true)임. 전자의무기록에서 환자들의 이야기가 사라진 것은 ...

  • 조회 수 124

개인정보보호 환자 데이터가 개인 데이터 프라이버시를 유지하면서 과학연구를 발전시킬 수 있는 방법 file

키워드 환자데이터, 빅데이터, 개인정보, 민감정보, CHALLENGE 컨소시엄, 유럽연합 개인정보보호규정, GDPR 

나이가 들면, 우리 몸은 퇴화되고 노화가 소위 퇴행성 질병의 가장 중요한 단일 위험 요소라는 것을 알고 있음. 그러나 우리는 왜 그런지 그 이유를 이해하지 못함. 필사적으로 그것을 피하려고 하는 사람들에게조차 노령은 노쇠함, 장애, 그리고 결국 죽음과...

  • 조회 수 123

보건의료 환자들을 의료기록과 매칭시키는 것이 왜 그리 어려운가? file

키워드 환자기록, 의무기록, 의료비, 오진, 환자안전, 의료시스템, HITECH Act, Health Information Technology for Economic and Clinical Health Act, 전자의무기록, EMR, 환자매칭 

환자와 기록의 매칭은 돈 낭비와 환자 안전에 대한 위협으로 모든 병원 의원들을 괴롭히는 문제임. 전문가들은 이 문제를 파악하고자 함.   2019년 3월 20일 Lola Butcher   2018년 연례 유방 검사를 실시한지 2일 후 킬리 아르네스(Keely Aarnes)는 여성이라...

  • 조회 수 886

의료윤리 美 연구팀, 환자-의사 간 감정적으로 조화(fit)될수록 환자가 의학적 권고를 잘 따라 [4월 6일] file

키워드 환자-의사관계, 전문직윤리, 의료윤리, 환자와의 신뢰, 감정적 상태, 심리학 연구 

〇 환자가 이상적으로(ideally) 추구하는 감정과 담당 의료진의 감정이 유사하여 감정적으로 강력하게 조화되면, 환자가 그 의료진의 의학적 권고를 잘 따른다는 연구결과가 제시됨. 이 같은 미국 스탠포드대 연구팀의 연구결과는 미국 심리학회(American Psy...

  • 조회 수 629

개인정보보호 연구가 의학적 발견과 혁신을 진보시키는 윤리적인 방법을 제공함 file

키워드 환자, patients, 연구대상자, research participants, 건강데이터, health data, 빅데이터, big data, 공유, sharing, 인체유래물, materials, biospecimens, 혈액검체, blood samples, 조직검체, tissue samples, 연구, research studies, 동의, consent, permission, 철회, revoke, 포괄동의, broad consent, 윤리위원회, ethics board, 위험, risk, 위해, harm, HIPPA, NEJM 

미국의 주요 의료센터는 노다지(gold mine; 금광) 위에 자리 잡고 있음. 의료센터가 보유하고 있는 환자와 연구대상자에 대한 데이터는 새로운 의약품, 의료기술, 건강앱 등을 이끌어낼 수 있는 단서를 탐색하는 회사들에게 수백만 달러의 가치가 있을 수 있음...

  • 조회 수 7

과학기술발전 유전자 변형이 화학 무기로부터 군인들을 보호할 수 있음 file

키워드 화학무기, 생물학적무기, 유전자변형, 유전자조작, 신경, 군인, 치료법, 실험동물, 바이러스, 유전자치료 

국제적인 사용 금지에도 불구하고 시리아와 같은 일부 국가는 적군과 민간인들에게 치명적인 신경 작용제를 사용함. 이러한 화학무기 공격에 대한 기존의 치료법은 신속하게 제공돼야 하지만 언제나 경련이나 뇌 손상을 예방해주지는 않음. 현재 미 육군 연구...

  • 조회 수 63

개인정보보호 여행자들에 대한 홍콩의 타액 검사가 생명윤리에 대한 의문을 제기함 file

키워드 홍콩, 코로나바이러스, 타액검사, 유전자검사, DNA, 바이오, 바이오데이터, 정보, 정부, 규제, 개인정보보호, 개인정보, EU, 침, 앱, 접촉추적 

Layla Keith는 최근 싱가포르에서 비행기를 타고 홍콩에 도착했으며, 그 때 Keith와 함께 도착한 승객들이 홍콩 정부 관계자들을 게이트에서 만났고 근처의 컨벤션 센터에 가는 버스를 타야했음. 여기에서 그들은 기입해야 할 서식을 받았으며 침을 보관할 작...

  • 조회 수 25

과학기술발전 인간-닭 혼합(Hybrid)배아로 주요 배아발달단계를 밝힘[5월25일] file

키워드 혼합배아, 하이브리드, 인간배아, 초기발달과정, organizer, 

□ 인간-닭 혼합(Hybrid)배아로 주요 배아발달단계를 밝힘[5월25일]   세포의 클러스터가 배아로 발전하기 전에 어떤 사건이 일어나는지에 대한 과정은 지금까지 인간에게서 관찰된 적이 없음. 새로운 기술은 인간배아가 필요없이 인간발달의 가장 초기단계를 ...

  • 조회 수 199

연명의료 및 죽음 독일에서는 어떻게 죽을까? [6월 23일] file

키워드 호스피스, 완화의료, 의사조력자살, 안락사, 가정호스피스, 전문직윤리, 의사윤리강령 

〇 독일 하원(Bundestag)은 완화의료에 기금을 지원하여 호스피스-완화의료(hospice and palliative care)시스템을 향상시키고 확대하기 위한 법안(bill)을 논의하고 있음. 반면 하원 부의장(vice president)을 포함한 하원의 한 그룹은 그 논의 한 시간 전에 ...

  • 조회 수 592

연명의료 및 죽음 호스피스(hospice care)로의 변화가 의료비용을 증가시키고 있음 [5월 11일] file

키워드 호스피스, 완화의료, 의료비용, 의료보험, 생의 말기 

〇 요양원에서 거주하는 백 만 명의 미국인 중 4분의 3을 대상으로 하는 새로운 연구에 따르면, 2004년부터 2009년 사이에 호스피스 이용인구가 증가했지만, 요양원에서 죽어가는 사람들에 대한 의료보험 비용 감소는 없었음. 연구결과는 New England Journal...

  • 조회 수 594

연명의료 및 죽음 삶의 마지막에 덜 공격적인 의료를 받은 암환자의 가족들이 더 행복하다는 연구결과가 나옴 [1월 20일] file

키워드 호스피스, 완화의료, 연명의료, 중환자실, 삶의 마지막 

암으로 죽어가는 사랑하는 사람의 삶의 마지막 의료에 대해 가족들은 안위에 초점을 맞춘 경우에 공격적인 치료에 초점을 맞춘 경우보다 더 만족한다는 미국의 연구결과가 나옴. 이 연구는 미국의사협회지(Journal of the American Medical Association) 최신...

  • 조회 수 387

연명의료 및 죽음 호스피스이용이 요양원에서 장기입원에 따른 비용을 늘리지는 않는다는 연구결과가 나옴 [5월 9일] file

키워드 호스피스, hospiece, 요양원, nursing home, 의료비, 메디케어, 메디케이드 

호스피스서비스 이용이 요양원에서 장기간 입원하다 사망한 환자들의 마지막 6개월 동안의 의료비를 늘리지는 않는다는 연구결과가 나옴. 이 같은 연구결과는 미국노인병학회지(Journal of the American Geriatrics Society)에 실림.     입원 및 요양원의 급...

  • 조회 수 720

연명의료 및 죽음 [연구] 뚱뚱할수록 호스피스 덜 받아 [2월 9일] file

키워드 호스피스, hospice care benefit, end-of-life care, 메디케어, medicare, 비만, obesity, BMI, cachexia, Health and Retirement Study 

비만이 호스피스서비스 이용과 연관이 있는 것으로 나타남. 이 같은 연구결과는 미국 내과학연보(Annals of Internal Medicine) 2월 7일자에 실림. 연구팀은 미국 건강과 은퇴 연구(Health and Retirement Study : 국가차원의 50세 이상 대표성이 있는 샘플) ...

  • 조회 수 2189

인간대상연구 입을 수 있는 인공신장이 혈액투석기의 대안이 될 것으로 기대된다는 연구가 나옴 [6월 8일] file

키워드 혈액투석, dialysis machines, 인공신장, wearable artificial kidney, 말기신장질환, ESRD, 임상시험 

전세계적으로 2백만명이 만성신부전으로 인하여 혈액투석을 받고 있을 것으로 추정됨. 환자가 혈액투석을 받는 동안에는 침상 밖으로 이동할 수 없어서 일상생활에서 어려움을 겪고 있음. 워싱턴대(University of Washington)의 한 연구팀은 지속적으로 작동하...

  • 조회 수 857

과학기술발전 연구자들이 혈액줄기세포(blood stem cells)의 유전체 편집을 진행시킴. [11월12일] file

키워드 혈액줄기세포, 유전체편집, 조혈줄기모세포, 인간면역결핍바이러스, HSPCs, HIV, ZFN, 유전자가위, 유전자편집 

USC (University of Southern California) 와 Sangamo BioSciences의 연구팀에 의해 혈액줄기세포의 유전체 조작 기술이 개선되었음. Nature Biotechnology의 곧 있을 연구에서, 공동 제1저자인 USC의 콜린 M 엑슬린(Colin M. Exline) 박사와 Sangamo BioScie...

  • 조회 수 447

인체유래물 산안토니오 혈액은행(San Antonio Blood Bank), COVID-19 치료제 찾기 전국 프로그램에 참여 file

키워드 혈액은행, 혈액, 혈장, blood bank, plasma, COVID-19, 코로나바이러스, 수혈, blood 

COVID-19는 입증된 치료법이 없지만, 질병에 대한 가능한 치료법은 최근에 회복된 사람들의 혈관을 통해 가능할 수 있음. FDA는 COVID-19가 회복된 환자의 혈장(plasma)에서 발견된 항체로 치료될 수 있는지를 알아내는 응급 프로그램을 주도하고 있음. 엘리...

  • 조회 수 48

보조생식 및 출산 혈액검사를 통해 정확한 출산예정일을 알 수 있으며, 산전관리를 향상시킬 수 있음[6월11일] file

키워드 혈액검사, RNA, 출산예정일, 조기출산, 산전관리 

□ 혈액검사를 통해 정확한 출산예정일을 알 수 있으며, 산전관리를 향상시킬 수 있음[6월11일]   현재 임산부의 실제 출산일에 대한 정보는 단지 추정에 의하여 제공될 뿐임. 이것은 불편할 뿐 아니라 엄마와 아기 모두에 대한 추가 의료절차로 이어질 수 있음...

  • 조회 수 126