해외언론동향
해외언론동향 내용 담당 : 배아정책연구팀 02-737-8452
게재 일자 : 2020-10-05 
키워드 : 보건의료, healthcare, 인공지능, artificial intelligence, AI, 기계학습, machine learning, 딥러닝, deep-learning, 책임, responsibility, accountability, 법적 책임, liability, 오류, 과실, error, 과오, 잘못, mistakes, 로봇윤리, robot ethics, 편향된 데이터, biased data, 블랙박스, black box, 배상, redress 

인공지능은 암을 진단하고 자살을 예측하고 수술을 돕는데 이용될 수 있음. 이 모든 사례에서 인공지능이 인간 의사들보다 정해진 과업으로 더 나은 결과를 낸다고 암시하는 연구결과도 나와 있음. 그런데 뭔가 잘못되면 누가 책임질까?

 

미국 캘리포니아폴리테크닉주립대(California Polytechnic State University) Patrick Lin은 누가 책임져야 하는지에 대한 쉬운 해답은 없다고 말함. 보건의료분야에서 인공지능을 적용하는 과정(설계부터 데이터 및 전달까지)의 어느 시점에서도 오류가 발생할 수 있음.

 

정말 엉망이군요. 누가 책임을 져야 하는지는 오류나 사고가 왜 문제를 일으키는지에 대한 세부적인 내용에 달려있기 때문에 명확하지 않습니다. 그러한 사건은 가치사슬(value chain)의 어디에서나 발생할 수 있습니다.”

 

보건의료분야에서는 인공지능을 어떻게 이용할까?

 

설계에는 하드웨어와 소프트웨어 구축에 제품 시험까지 포함됨. 데이터는 기계학습이 편향된 데이터로 진행될 때 발생할 수 있는 많은 문제를 아우르는 반면, 배치는 제품이 실무에 어떻게 이용되는지와 관련됨. 보건의료분야에서의 인공지능 적용은 종종 인간과 함께 일하는 로봇을 수반하며, 이는 책임의 범위를 모호하게 만듦.

 

예일대(Yale University) 생명윤리센터(Interdisciplinary Center for Bioethics) Wendall Wallace는 인공지능이 어디에서 어떻게 실패했는가에 따라 책임을 나눌 수 있다고 말함. “만약 인공지능시스템이 설계한대로 작동하지 않거나 기이한(idiosyncratic) 무언가를 한다면 아마 기기를 시판한 법인에 책임이 갈 것이라면서 실패한 것이 아니라 임상적인 맥락에서 잘못 이용하고 있다면 이용을 허가한 사람에게 법적 책임이 있다고 설명함.

 

Da Vinci 수술시스템을 만든 회사는 지난 10년 동안 수천 건의 소송을 해결함. Da Vinci 로봇은 항상 인간인 외과의사와 함께 일하는데, 기계가 환자를 태우거나 기계의 일부가 깨져서 환자에게 떨어지는 등 명백한 과실 혐의를 받고 있음.

 

하지만 어떤 사례는 책임소재가 덜 명확하기도 함. 진단용 인공지능이 백인 환자가 과도하게 대표된 데이터로 훈련을 받아서 흑인 환자를 오진했다면, 문제를 일으킨 장본인(culprit)이 기계학습을 시킨 업체인지, 편향된 데이터를 수집한 업체인지, 권고를 듣기로 선택한 의사인지 분명하지 않음.

 

인공지능 블랙박스와 의도 및 인과관계의 쇠퇴(failure)’라는 논문을 게재한 변호사 Yavar Bathaee인공지능프로그램이 블랙박스라면 인간처럼 예측하고 결정하더라도 그렇게 하는 이유를 제대로 소통하지 못할 것이라면서 인간에게 적용되는 법률적 원칙이 왜 인공지능에 꼭 작동하지는 않는지를 설명함. “인공지능을 구축하거나 배치한 인간의 의도나 행동에 대하여 추론할 수 있는 것은 거의 없다는 의미이기도 하다면서 그들은 인공지능이 어떤 해결책에 도달할지나 어떤 결정을 내릴지 예측하지 못할 수도 있기 때문이라고 밝힘.

 

인공지능 블랙박스 내부

 

지난해 미국의료윤리학회지(AMA Journal of Ethics)에 게재된 불법행위 책임과 인공지능논문에 따르면 인공지능에게 책임을 묻기 어려운 이유는 의사결정과정을 이해할 수 없는데(impenetrability) 있다고 밝힘. “인공지능을 설계한 사람이 시판 후 어떻게 행동할지 예측할 수 없다면, 그들이 어떻게 불법행위로 책임을 지겠는가?”라면서 만약 법률체계가 인공지능의 행동을 예측할 수 없다는 이유로 설계한 사람의 법적 책임에 대해 무죄라고 선언한다면, 손상을 입은 환자들은 배상을 받을 기회가 더 줄어들 수도 있다고 강조함.

 

다른 모든 기술처럼 인공지능도 실험실과 실제 환경에서 매우 다르게 작동하는 경우가 많음. 올해 초 Google Health 연구팀은 당뇨병성 망막증의 증상을 90% 정확도로 식별할 수 있는 딥러닝시스템이 실제 상황에 배치되자 상당한 지연(delays)과 장애물(frustrations) 유발한다는 점을 발견함.

 

복잡하더라도 책임소재의 명확함은 보건의료분야 인공지능에 있어 필수적임. 개별 환자들은 책임에 따른 후속조치를 받을 자격이 있으며, 책임감이 부족하면 잘못이 넘쳐날 것이기 때문임. Lin책임이 누구에게 있는지가 분명하지 않으면 공백 상황, 즉 누구도 책임지지 않을 수 있는 상황이 벌어질 수 있다면서 그런 사례에 해당하면 문제를 해결하도록 장려할 대책(incentive)이 없다고 말함. 법학자 David Vladeck가 제안한 한 가지 가능한 대응책은 인공지능시스템 구현 및 이용에 관련된 모든 사람에게 책임을 묻는 것임.

 

인공지능과 보건의료는 인간 전문직들의 결정을 강화하면서 때때로 함께 잘 작동함. 인공지능이 발달하더라도 간호사를 대체하거나 의사를 완전히 자동화하지는 않을 것으로 예상됨. 그러나 인공지능이 발전할수록 인간은 기계의 결정에 반대하기가 어려워짐. 로봇이 99% 맞다면, 의사가 그와 다른 선택을 할 경우 중대한 법적 책임에 맞닥뜨릴 수 있음. “의사의 입장에서는 로봇이 말해는 대로 따라가는 것이 훨씬 더 쉽다Lin은 말함.

 

결국 이는 인간이 로봇에게 무언가 권한을 마지못해 위임했다는 뜻임. 인공지능이 인간을 능가하는 경우도 많기에, 의사들도 기계학습에 매달려야 함. 그러나 잘못에 대한 책임소재가 명확하지 않은 한 보건의료분야에서 인공지능에 대한 경계심(wariness)은 정당화됨. “의학은 계속 진화하고 있고, 예술과 과학의 조화라면서 효과적으로 대응하기 위해서는 기술과 인간 모두 필요하다Lin은 덧붙임.

 

기사 : https://qz.com/1905712/when-ai-in-healthcare-goes-wrong-who-is-responsible-2/

사진 : https://hbr.org/2019/10/ai-can-outperform-doctors-so-why-dont-patients-trust-it

저널(Harvard Journal of Law & Technology) : https://jolt.law.harvard.edu/assets/articlePDFs/v31/The-Artificial-Intelligence-Black-Box-and-the-Failure-of-Intent-and-Causation-Yavar-Bathaee.pdf

저널(AMA Journal of Ethics) : https://journalofethics.ama-assn.org/article/are-current-tort-liability-doctrines-adequate-addressing-injury-caused-ai/2019-02

List of Articles
번호 제목 키워드 조회 수

보건의료 트럼프 대통령의 COVID-19 약물의 동정적 사용(compassionate use)에 대한 사실과 오해 newfile

키워드 FDA, compassionate use, expanded access program, Covid-19, Regeneron, REGN-COV2, experimental drug, unapproved drug 

트럼프 대통령이 코로나 19 진단을 받고 실험용 약물로 치료를 받고 입원·퇴원한 이래로 관련 뉴스와 의료정보의 소용돌이 가운데, 승인되지 않은 약물의 “동정적 사용(compassionate use)”에 대한 혼란이 많음. 동정적 사용이 무엇인지? 누가 자격이 있는지?...

  • 조회 수 7

보조생식 및 출산 [너필드위원회 브리핑노트] 사회적 난자 동결보존기간 최대 10년 제한 “이유 없음” file

키워드 너필드생명윤리위원회, Nuffield Council on Bioethics, NCOB, bioethics body, 난임치료, fertility treatment, 난자동결, egg freezing, 보존기한, storage limit, 10년 제한규정, 10-year rule, 사회적 이유, social reasons, 의학적 이유, medical reasons, 고용장려책, employment benefit, 충분한 정보에 의한 선택, informed choices, HFEA 

영국 너필드생명윤리위원회(Nuffield Council on Bioethics)는 사회적인 이유로 난자를 동결보존할 수 있는 기간을 최대 10년으로 제한한 규정을 생식능력 감소를 우려하는 사람들에게 더 많은 시간과 선택권을 주기 위해 연장할 수 있다고 밝힘.   너필드위원...

  • 조회 수 60

보조생식 및 출산 남편과 사별한 여성이 남편의 정자를 체외수정에 이용하기 위한 소송에서 이김 file

키워드 정자 기증, sperm donation, 체외수정, IVF, in vitro fertilisation, 인공수정, IUI, intrauterine insemination, 난임치료, fertility treatment, 배아 생성, creation of embryos, 생식세포 보관, storage of gametes, 동의서, 서면동의, consent form, permission, 법원, court, 판결, ruling, HFEA, NHS 

영국 스코틀랜드의 한 여성은 사별한 남편의 정자를 이용하여 체외수정을 받기 위한 법적 다툼에서 승소함.   남편(JB)은 암이 재발하여 사망했는데, 10년 전에 언젠가는 가족을 꾸릴 수 있을 것이라는 희망으로 정자를 보관해둠(7 vials). 그는 의사에게 가족...

  • 조회 수 39

과학기술발전 과학자들이 1상 임상시험에 들어갈 백신에 유전자편집기술 사용 file

키워드 유전자가위, CRISPR, 유전자편집기술, gene-editing technology, 백신, vaccine, 임상시험, human trials, clinical trial, 유전체, genome, 돌연변이, mutate, 기생충, parasites, 감염병, leishmaniasis, Nature Communications 

과학자들은 열대지방에서 흔히 발생하는 감염병(leishmaniasis)을 일으키는 기생충을 변이시키기 위해 크리스퍼 유전자편집기술을 사용해 개발한 백신의 인간을 대상으로 하는 1상 임상시험을 계획하고 있고, 이로써 미국에서 입지를 굳히고자 함.   일련의 동...

  • 조회 수 59

과학기술발전 보건의료 인공지능이 실수했을 때 책임은 누가 지는가? file

키워드 보건의료, healthcare, 인공지능, artificial intelligence, AI, 기계학습, machine learning, 딥러닝, deep-learning, 책임, responsibility, accountability, 법적 책임, liability, 오류, 과실, error, 과오, 잘못, mistakes, 로봇윤리, robot ethics, 편향된 데이터, biased data, 블랙박스, black box, 배상, redress 

인공지능은 암을 진단하고 자살을 예측하고 수술을 돕는데 이용될 수 있음. 이 모든 사례에서 인공지능이 인간 의사들보다 정해진 과업으로 더 나은 결과를 낸다고 암시하는 연구결과도 나와 있음. 그런데 뭔가 잘못되면 누가 책임질까?   미국 캘리포니아폴리...

  • 조회 수 99

보조생식 및 출산 [오피니언] 감염병 대유행 중 임신 : 코로나19로 인한 스트레스 file

키워드 코로나19, COVID-19, 감염병 대유행, pandemic, 임신, pregnancy, 예비부모, pregnant couples, 스트레스, stress, 취약계층, vulnerable population, 소외된 집단, under-served group, 격리, quarantine, 산전후, perinatal, 경험, experience, 위험, risk, 격차, disparities, 사회적 지원, social support, COPE study 

임신은 그 자체로도 스트레스를 주지만, 코로나19가 추가되면 예비부모에게 새로운 난제를 가져옴. 미국 CDC(질병관리본부; Centers for Disease Control and Prevention)는 임신한 여성을 취약한 인구집단으로 식별해냄. 감염될 경우 병원에 입원할 가능성이 ...

  • 조회 수 65

생명윤리 배관공과 교사가 왜 맞춤형 아기에 대하여 발언권을 가져야 할까? file

키워드 유전자편집, gene editing, DNA-altering, 유전체편집, genome editing, 첨단기술, emerging technology, 맞춤형 아기, designer babies, genetically altered babies, 윤리적 영향, ethical implications, 사회적 영향, social implications, 가치, values, 원칙, principles, 일반인, lay-people, 일반 대중, general public, 시민의회, citizens' assemblies, 숙고, deliberation, 윤리 덤핑, ethics dumping, Science 

① 유전자편집기술의 윤리적‧사회적 영향은 과학자들과 정치인들에게만 맡기기에는 너무 심오함 ② 과학과 관련이 없는 직업에 종사하는 사람들이 유전자편집에 관한 회의에 참여해야 함 ③ 중국 연구자 한 명이 유전적으로 변경한 아기를 만들어낸 죄로 수감됨 ④...

  • 조회 수 89

의료윤리 누가 먼저 코로나19 백신을 맞아야 할까? … 할당계획이 구체화되고 있음 file

키워드 코로나19, coronavirus, COVID, 감염병 대유행, pandemic, 백신, vaccine, 우선순위, priority, 고위험, high risk, 할당, allocation, 지침, guidance, 권고, recommendations, 자문단, advisory group, 위원회, committee, panel, 사회적 약자, disadvantaged, 취약한, vulnerable, SVI, 소수집단, minority, 제도적 차별, systemic racism, 부당함, injustice, WHO, NASEM, CDC 

WHO 및 NASEM 자문단, 의료종사자와 최전방직업종사자를 우선하기 위한 지침 발표 미국 도널드 트럼프 대통령이 시사한 바와 같이, 수주 또는 수개월 이내에 코로나19 예방백신이 허가를 받을 예정이어서 뜨거운 기대를 받고 있음. 다만 제조사가 생산라인을 ...

  • 조회 수 266

장기 및 인체조직 [오피니언] 캐나다의 이식용 장기 부족 문제를 ‘거부하지 않으면 기증후보자가 되는’ 옵트아웃제도가 해결할 수 있음 file

키워드 장기기증, organ donation, 옵트아웃, opt-out, 동의추정, presumed consent, deemed consent, 옵트인, opt-in, 무관심, apathy, 말기신부전, ESRD, 자율성, autonomy, 공익, public interest, 규범, norm, 윤리적인 책임, ethical responsibility, 재정적인 인센티브, financial incentives, 투석치료, dialysis treatment, 신장이식, kidney transplantation 

2018년 캐나다에서 장기이식대기자로 등록된 사람은 총 4351명이었음. 같은 해 장기이식을 기다리다 사망한 사람은 223명이었음.    ☀ 캐나다 장기이식등록시스템(CORR; Canadian Organ Replacement Register)에 따르면 2018년에 총 2782건의 장기이식이 진행...

  • 조회 수 83

생명윤리 전문가들이 ‘유전체편집아기’는 너무 위험하다고 경고하면서 생식세포계열 편집지침 제시 file

키워드 유전체편집아기, CRISPR babies, 유전자편집, gene editing, 유전체편집, genome editing, 유전자가위, CRISPR–Cas9, 생식세포계열 편집, germline editing, 첨단기술, emerging technologies, 유전질환, genetic disorders, 인간배아, human embryos, 임상적용, clinical application, 사회적 태도, societal attitudes, 안전, 안전성, safety, 효능, efficacy, 의도하지 않은 효과, off-target effects, 윤리, ethics, 규율체계, 거버넌스, governance, 지침, guideline 

인간 배아의 유전자를 편집하는 것은 언젠가는 중증유전질환이 유전되는 것을 예방할 수 있을 것임. 그러나 세간의 이목을 끄는 국제적인 전문가위원회는 현재 이 기술이 착상될 예정인 배아에게 이용하기에는 너무 위험하다고 밝힘. 그리고 기술이 충분이 발...

  • 조회 수 180

연명의료 및 죽음 [오피니언] 세계뇌사프로젝트 뇌사판정기준 발표 – 죽음에 대한 겸손은 의사와 환자를 최선으로 도움 file

키워드 뇌사, brain death, WBDP, 뇌사판정, determination of brain death, 신경학적 기준, neurologic criteria, DNC, 합의, consensus, 권고, recommendations, 임상검사, clinical examination, 대중의 신뢰, public confidence, 착취, exploitation, 도덕적 실패, moral failures, 종교적 반대, religious objections, 지속적 식물상태, persistent vegetative state, 존중, respect, 겸손, humility, UDDA, JAMA 

☀ WBDP(세계뇌사프로젝트; World Brain Death Project)는 뇌사가 무엇인지, 누군가가 죽었을 경우 어떻게 판정되어야 하는지 합의에 도달하기 위하여 전문가들이 1992년 1월부터 2020년 4월까지 게재된 700건의 저널과 45건의 권고를 검토하여 통일된 뇌사판정...

  • 조회 수 122

인간대상연구 코로나바이러스 백신: 안전, 유통, 채택에 관한 질문 file

키워드 코로나19, COVID-19, 코로나바이러스, coronavirus, 백신, vaccines, 예방접종, vaccination, 정책, policies, 안전, safety, 유통, distribution, 위해, harm, 신뢰, confidence, 소통, communications, 감시, oversight, 숙고, deliberation, 잘못된 정보, misinformation, 백신에 대한 망설임, vaccine hesitancy, FDA, NIH, CDC, NAM 

코로나19의 급속한 확산과 그로 인한 생활에 대한 혼란은 백신에 관한 극도의 노력을 이전에 본 적이 없는 속도로 촉발시켰다고 과학자들은 말함. WHO(세계보건기구)에 따르면 8월 20일 기준 30종의 백신이 인간에게 시험되고 있고, 139종이 실험실에서 개발되...

  • 조회 수 124

과학기술발전 다기관공동연구: 척수성 근위축증에 대한 유전자치료 file

키워드 유전자치료, gene therapy, gene replacement therapy, 척수성 근위축증, SMA, spinal muscular atrophy, SMN1 gene, 임상시험, human trial, 안전, safety, 효능, efficacy, FDA, Pediatrics 

미국 FDA(식품의약품국; Food and Drug Administration)은 2019년 5월 5번 염색체(5q)로 인한 척수성 근위축증에 대한 유전자교체치료를 허가함. 허가 범위에는 2세 미만 SMA 환아라면 누구나 포함됨. 하지만 이 유전자치료는 태어난 지 8개월 이내의 어린이에...

  • 조회 수 93

과학기술발전 구글, 까다로운 인공지능윤리로 사람들을 돕겠다고 제안 file

키워드 인공지능, AI, artificial intelligence, 얼굴인식, facial recognition, 윤리적인 원칙, ethical principles, 윤리지침, ethical guidelines, 윤리적인 검토, ethical review, 사회에 대한 영향, influence on society, 구글, Google, 아마존, Amazon, 마이크로소프트, Microsoft, IBM 

기업은 자체적인 디지털인프라를 운영하지 않기 위하여 아마존, 마이크로소프트, 구글과 같은 클라우드업체에 엄청난 돈을 지불함. 구글의 클라우드부서는 조만간 고객들에게 중앙처리장치 및 디스크드라이브보다 실체가 덜 확실한 무언가(인공지능 이용의 옳...

  • 조회 수 73

생명윤리 미국 유타주, 감염병 대유행 시 장애인을 위한 안전장치 마련 file

키워드 코로나19, 코로나바이러스, coronavirus, 대유행, pandemic, 장애인, people with disabilities, disabled people, 환자분류지침, triage guideline, 취약계층, the vulnerable, 삶의 질, quality of life, 편향, bias, 의학적 판단, medical judgment, 차별, discriminatory, 상대적인 가치, relative worth, 기대수명, life expectancy, 인공호흡기 부족, ventilator shortage 

미국 유타주는 코로나19 대유행으로 병원이 압도당한 경우 의사가 진료할 때 장애가 있더라도 배제하지 않도록 위기관리지침을 정비한 다섯 번째 주가 됨.   미국 보건복지부(Department of Health and Human Services) 민권국(Office for Civil Rights) 책임...

  • 조회 수 121

보조생식 및 출산 동성커플이 인스타그램에 ‘기증정자 증정’이라며 정자를 경품으로 걸어 논란이 됨 file

키워드 정자기증, sperm donation, 정자기증자, sperm donor, sperminator, 기증정자, donor sperm, 경품, giveaway, 정자은행, sperm bank, 동성커플, same-sex couple, lesbian couple, 난임치료, fertility treatment, 체외수정, IVF, 임신, pregnancy, 가족, family, 소셜미디어, social media, 인스타그램, Instagram, 트위터, Twitter 

생식혁명의 가장 최신 사건은 캐나다 노바스코샤주에서 나옴.   여행블로거이자 성소수자(LGBT) 여성커플인 Allie Conway와 Sam Kwiatkowski는 ‘기증자 정자 증정(giveaway)’이라고 적힌 팻말을 들고 있는 본인들의 모습을 인스타그램을 통해 공개함. 인스타그...

  • 조회 수 105

보건의료 COVID-19 백신에 대한 불신 회복 촉구 file

키워드 코로나바이러스 백신, COVID-19 Vaccine, 백신연구, vaccine trial, 백신 수용성, vaccine acceptance, 불신, distrust, 대중 교육, public education, 아웃리치, outreach, 소통, communication 

과학자들은 코로나바이러스 팬더믹을 근절시킬 수 있는 백신을 찾기 위해 전력 질주하고 있으며, 미국 최고의 감염병 전문가 앤서니 파우치 박사는 2021년 초 안전하고 효과적인 COVID-19 백신이 배포될 준비가 될 것이라고 말함. 하지만 백신이 승인된다고 하...

  • 조회 수 72

의료윤리 과학적으로 건전한 줄기세포치료와 사기(scams)를 어떻게 구분할 수 있을까? file

키워드 줄기세포치료, stem cell treatments, stem cell therapies, stem cell transplant, 재생의료, 재생의학, regenerative medicine, 실험적 치료, experimental treatments, 입증되지 않은 치료, unproven treatments, 줄기세포시술병원, stem cell clinics, 임상시험, clinical trials, ClinicalTrials.gov, 위험, risks, 이득, benefits, 건강, health, 안전, safety, 근거기반, evidence based, 불확실성, uncertainty, 충분한 정보에 의한 결정, informed decision, IRB, FDA, NIH, FTC, ISSCR 

“줄기세포치료와 같은 실험적이고 입증되지 않은 치료는 다른 선택지가 바닥난 환자들에게 새로운 희망을 줍니다. 과연 여러분은 과학적으로 타당한 것과 위험한 것을 구분할 수 있을까요?”   재생의료는 논란의 여지가 있는 분야로 아직 걸음마단계임. 세간의...

  • 조회 수 83

인간대상연구 케냐 빈민지역 주민 대상 기본권과 윤리를 훼손한 연구 수행 file

키워드 연구윤리, research ethics, 기관생명윤리위원회, institutional review board, IRB, Institutional bioethics committee, IBC, research ethics committee, REC, 무작위대조시험, randomized controlled trial, RCT, 이해상충, conflict of interest, COI, 기본 필수재, Basic commodity, 윤리적 프레임워크, ethical framework 

"연구자들이 본인의 이력서를 돋보이게 만들기 위해 저소득 지역의 사람들을 이용하는 것은 받아들여서는 안 된다." 미 경제학자 Angus Deaton 경은 최근 발표한 논문에서 사회 정책 개입을 평가하는 데 있어 저소득 지역의 사람들을 대상으로 무작위 통제 실...

  • 조회 수 568

개인정보보호 페이스북, 인스타그램 사용자 생체정보를 동의 없이 수집·공유한 혐의를 가짐 file

키워드 facebook, 페이스북, 소셜미디어 플랫폼, Social Media Platform, SNS, 프라이버시, Privacy, 생체 데이터, biometric data, 식별자, identifier 

얼굴을 포함한 사용자의 생체 데이터(biometric data)를 사전 통보 없이 수집하고 저장한 유일한 소셜 미디어 플랫폼은 틱톡(TikTok)만이 아님.   인스타그램 사용자 켈리 웰런(Kelly Whalen)은 집단소송에서 페이스북이 소유한 소셜미디어 플랫폼이 "사용자의...

  • 조회 수 309