해외언론동향
해외언론동향 내용 담당 : 인체유래물정책연구팀02-737-9442
게재 일자 : 2020-10-05 
키워드 : 보건의료, healthcare, 인공지능, artificial intelligence, AI, 기계학습, machine learning, 딥러닝, deep-learning, 책임, responsibility, accountability, 법적 책임, liability, 오류, 과실, error, 과오, 잘못, mistakes, 로봇윤리, robot ethics, 편향된 데이터, biased data, 블랙박스, black box, 배상, redress 

인공지능은 암을 진단하고 자살을 예측하고 수술을 돕는데 이용될 수 있음. 이 모든 사례에서 인공지능이 인간 의사들보다 정해진 과업으로 더 나은 결과를 낸다고 암시하는 연구결과도 나와 있음. 그런데 뭔가 잘못되면 누가 책임질까?

 

미국 캘리포니아폴리테크닉주립대(California Polytechnic State University) Patrick Lin은 누가 책임져야 하는지에 대한 쉬운 해답은 없다고 말함. 보건의료분야에서 인공지능을 적용하는 과정(설계부터 데이터 및 전달까지)의 어느 시점에서도 오류가 발생할 수 있음.

 

정말 엉망이군요. 누가 책임을 져야 하는지는 오류나 사고가 왜 문제를 일으키는지에 대한 세부적인 내용에 달려있기 때문에 명확하지 않습니다. 그러한 사건은 가치사슬(value chain)의 어디에서나 발생할 수 있습니다.”

 

보건의료분야에서는 인공지능을 어떻게 이용할까?

 

설계에는 하드웨어와 소프트웨어 구축에 제품 시험까지 포함됨. 데이터는 기계학습이 편향된 데이터로 진행될 때 발생할 수 있는 많은 문제를 아우르는 반면, 배치는 제품이 실무에 어떻게 이용되는지와 관련됨. 보건의료분야에서의 인공지능 적용은 종종 인간과 함께 일하는 로봇을 수반하며, 이는 책임의 범위를 모호하게 만듦.

 

예일대(Yale University) 생명윤리센터(Interdisciplinary Center for Bioethics) Wendall Wallace는 인공지능이 어디에서 어떻게 실패했는가에 따라 책임을 나눌 수 있다고 말함. “만약 인공지능시스템이 설계한대로 작동하지 않거나 기이한(idiosyncratic) 무언가를 한다면 아마 기기를 시판한 법인에 책임이 갈 것이라면서 실패한 것이 아니라 임상적인 맥락에서 잘못 이용하고 있다면 이용을 허가한 사람에게 법적 책임이 있다고 설명함.

 

Da Vinci 수술시스템을 만든 회사는 지난 10년 동안 수천 건의 소송을 해결함. Da Vinci 로봇은 항상 인간인 외과의사와 함께 일하는데, 기계가 환자를 태우거나 기계의 일부가 깨져서 환자에게 떨어지는 등 명백한 과실 혐의를 받고 있음.

 

하지만 어떤 사례는 책임소재가 덜 명확하기도 함. 진단용 인공지능이 백인 환자가 과도하게 대표된 데이터로 훈련을 받아서 흑인 환자를 오진했다면, 문제를 일으킨 장본인(culprit)이 기계학습을 시킨 업체인지, 편향된 데이터를 수집한 업체인지, 권고를 듣기로 선택한 의사인지 분명하지 않음.

 

인공지능 블랙박스와 의도 및 인과관계의 쇠퇴(failure)’라는 논문을 게재한 변호사 Yavar Bathaee인공지능프로그램이 블랙박스라면 인간처럼 예측하고 결정하더라도 그렇게 하는 이유를 제대로 소통하지 못할 것이라면서 인간에게 적용되는 법률적 원칙이 왜 인공지능에 꼭 작동하지는 않는지를 설명함. “인공지능을 구축하거나 배치한 인간의 의도나 행동에 대하여 추론할 수 있는 것은 거의 없다는 의미이기도 하다면서 그들은 인공지능이 어떤 해결책에 도달할지나 어떤 결정을 내릴지 예측하지 못할 수도 있기 때문이라고 밝힘.

 

인공지능 블랙박스 내부

 

지난해 미국의료윤리학회지(AMA Journal of Ethics)에 게재된 불법행위 책임과 인공지능논문에 따르면 인공지능에게 책임을 묻기 어려운 이유는 의사결정과정을 이해할 수 없는데(impenetrability) 있다고 밝힘. “인공지능을 설계한 사람이 시판 후 어떻게 행동할지 예측할 수 없다면, 그들이 어떻게 불법행위로 책임을 지겠는가?”라면서 만약 법률체계가 인공지능의 행동을 예측할 수 없다는 이유로 설계한 사람의 법적 책임에 대해 무죄라고 선언한다면, 손상을 입은 환자들은 배상을 받을 기회가 더 줄어들 수도 있다고 강조함.

 

다른 모든 기술처럼 인공지능도 실험실과 실제 환경에서 매우 다르게 작동하는 경우가 많음. 올해 초 Google Health 연구팀은 당뇨병성 망막증의 증상을 90% 정확도로 식별할 수 있는 딥러닝시스템이 실제 상황에 배치되자 상당한 지연(delays)과 장애물(frustrations) 유발한다는 점을 발견함.

 

복잡하더라도 책임소재의 명확함은 보건의료분야 인공지능에 있어 필수적임. 개별 환자들은 책임에 따른 후속조치를 받을 자격이 있으며, 책임감이 부족하면 잘못이 넘쳐날 것이기 때문임. Lin책임이 누구에게 있는지가 분명하지 않으면 공백 상황, 즉 누구도 책임지지 않을 수 있는 상황이 벌어질 수 있다면서 그런 사례에 해당하면 문제를 해결하도록 장려할 대책(incentive)이 없다고 말함. 법학자 David Vladeck가 제안한 한 가지 가능한 대응책은 인공지능시스템 구현 및 이용에 관련된 모든 사람에게 책임을 묻는 것임.

 

인공지능과 보건의료는 인간 전문직들의 결정을 강화하면서 때때로 함께 잘 작동함. 인공지능이 발달하더라도 간호사를 대체하거나 의사를 완전히 자동화하지는 않을 것으로 예상됨. 그러나 인공지능이 발전할수록 인간은 기계의 결정에 반대하기가 어려워짐. 로봇이 99% 맞다면, 의사가 그와 다른 선택을 할 경우 중대한 법적 책임에 맞닥뜨릴 수 있음. “의사의 입장에서는 로봇이 말해는 대로 따라가는 것이 훨씬 더 쉽다Lin은 말함.

 

결국 이는 인간이 로봇에게 무언가 권한을 마지못해 위임했다는 뜻임. 인공지능이 인간을 능가하는 경우도 많기에, 의사들도 기계학습에 매달려야 함. 그러나 잘못에 대한 책임소재가 명확하지 않은 한 보건의료분야에서 인공지능에 대한 경계심(wariness)은 정당화됨. “의학은 계속 진화하고 있고, 예술과 과학의 조화라면서 효과적으로 대응하기 위해서는 기술과 인간 모두 필요하다Lin은 덧붙임.

 

기사 : https://qz.com/1905712/when-ai-in-healthcare-goes-wrong-who-is-responsible-2/

사진 : https://hbr.org/2019/10/ai-can-outperform-doctors-so-why-dont-patients-trust-it

저널(Harvard Journal of Law & Technology) : https://jolt.law.harvard.edu/assets/articlePDFs/v31/The-Artificial-Intelligence-Black-Box-and-the-Failure-of-Intent-and-Causation-Yavar-Bathaee.pdf

저널(AMA Journal of Ethics) : https://journalofethics.ama-assn.org/article/are-current-tort-liability-doctrines-adequate-addressing-injury-caused-ai/2019-02

List of Articles
번호 제목 키워드 조회 수

연명의료 및 죽음 뉴질랜드, 말기 질환 환자들(terminally ill patients)을 위한 안락사 합법화 국민투표 file

키워드 New Zealand, 뉴질랜드, euthanasia, 안락사, assisted suicide, 조력자살 

뉴질랜드 국민들은 말기 질환을 앓고 있는 사람들을 위한 안락사 합법화에 찬성표를 던졌는데 이는 논란이 되고 있는 이 법안이 2021년에 법으로 제정될 수 있는 길을 열어주는 것임.   선거관리위원회가 지난 금요일 발표한 국민투표의 예비 결과에 따르면 유...

  • 조회 수 177

보건의료 [Feature] Covid-19: 프랑스의 환자협회 참여배제는 국제적 추세임 file

키워드 환자협회, 참여배제, citizen involvement, patient centredness, Health democracy, France Assos Santé, 국제환자단체연합, IAPO 

프랑스 환자협회는 정치인들이 전염병에 대한 전략을 고안하는 데 있어 과학자들의 의견은 구했지만 시민 사회를 무시한 것에 분노했음. 그러나 Barbara Casassus는 프랑스만이 이에 대해 유죄가 아니라고 기고함   프랑스 환자협회 회장은 프랑스의 보건민주...

  • 조회 수 82

보건의료 미 규제당국은 백신개발이 가까워짐에 따라 곤란한 문제에 대해 과학자문단의 조언을 구함 file

키워드 FDA, COVID-19 vaccine, emergency use, scientific advice, deliberations, how much evidence, long-term safety monitoring, 긴급승인기준, 코로나백신, 과학자문단 

미국 규제 당국에게 과학 자문단은 COVID-19 백신의 긴급 사용 허용이 백신에 대한 신뢰를 손상시킬 수 있고, 이것이 실제로 얼마나 잘 작동하는지에 대한 파악을 더 어렵게 할 수 있음을 우려한다고 말했음   FDA는 연말까지 코로나 바이러스에 대한 첫 번째 ...

  • 조회 수 108

생명윤리 [너필드위원회 브리핑] 영국의 COVID-19 대응 다음 단계에 대한 10가지 질문 file

키워드 너필드생명윤리위원회, Nuffield Council on Bioethics, 코로나 19, covid-19, 신뢰, trust, 대중, public, 대중참여, public engagement, 면역증명, immunity passport, 백신, vaccine, 연대, solidarity, 불평등, disparity, 백신 개발, vaccine development, 공공이익, public interest, 가치, value, 공중보건윤리, public health ethics, 공공생명윤리,public bioethics 

◆ 개요   영국에서 코로나 확진 사례 수가 계속 증가함에 따라, 정부는 보다 제한적인 조치가 필요할 수 있다는 계획과 함께 공중보건조치를 도입하고 있음. 이는 도전적인 과제가 될 것임. 너필드 생명윤리위원회는 spotlight brief를 발간하여,  COVID-19 대...

  • 조회 수 165

보건의료 [오피니언] 트럼프 대통령의 COVID-19 약물의 동정적 사용에 대한 사실과 오해 file

키워드 FDA, compassionate use, expanded access program, Covid-19, Regeneron, REGN-COV2, experimental drug, unapproved drug 

트럼프 대통령이 코로나 19 진단을 받고 실험용 약물로 치료를 받고 입원·퇴원한 이래로 관련 뉴스와 의료정보의 소용돌이 가운데, 승인되지 않은 약물의 “동정적 사용(compassionate use)”에 대한 혼란이 많음. 동정적 사용이 무엇인지? 누가 자격이 있는지?...

  • 조회 수 85

보조생식 및 출산 [너필드위원회 브리핑노트] 사회적 난자 동결보존기간 최대 10년 제한 “이유 없음” file

키워드 너필드생명윤리위원회, Nuffield Council on Bioethics, NCOB, bioethics body, 난임치료, fertility treatment, 난자동결, egg freezing, 보존기한, storage limit, 10년 제한규정, 10-year rule, 사회적 이유, social reasons, 의학적 이유, medical reasons, 고용장려책, employment benefit, 충분한 정보에 의한 선택, informed choices, HFEA 

영국 너필드생명윤리위원회(Nuffield Council on Bioethics)는 사회적인 이유로 난자를 동결보존할 수 있는 기간을 최대 10년으로 제한한 규정을 생식능력 감소를 우려하는 사람들에게 더 많은 시간과 선택권을 주기 위해 연장할 수 있다고 밝힘.   너필드위원...

  • 조회 수 204

보조생식 및 출산 남편과 사별한 여성이 남편의 정자를 체외수정에 이용하기 위한 소송에서 이김 file

키워드 정자 기증, sperm donation, 체외수정, IVF, in vitro fertilisation, 인공수정, IUI, intrauterine insemination, 난임치료, fertility treatment, 배아 생성, creation of embryos, 생식세포 보관, storage of gametes, 동의서, 서면동의, consent form, permission, 법원, court, 판결, ruling, HFEA, NHS 

영국 스코틀랜드의 한 여성은 사별한 남편의 정자를 이용하여 체외수정을 받기 위한 법적 다툼에서 승소함.   남편(JB)은 암이 재발하여 사망했는데, 10년 전에 언젠가는 가족을 꾸릴 수 있을 것이라는 희망으로 정자를 보관해둠(7 vials). 그는 의사에게 가족...

  • 조회 수 106

과학기술발전 과학자들이 1상 임상시험에 들어갈 백신에 유전자편집기술 사용 file

키워드 유전자가위, CRISPR, 유전자편집기술, gene-editing technology, 백신, vaccine, 임상시험, human trials, clinical trial, 유전체, genome, 돌연변이, mutate, 기생충, parasites, 감염병, leishmaniasis, Nature Communications 

과학자들은 열대지방에서 흔히 발생하는 감염병(leishmaniasis)을 일으키는 기생충을 변이시키기 위해 크리스퍼 유전자편집기술을 사용해 개발한 백신의 인간을 대상으로 하는 1상 임상시험을 계획하고 있고, 이로써 미국에서 입지를 굳히고자 함.   일련의 동...

  • 조회 수 117

과학기술발전 보건의료 인공지능이 실수했을 때 책임은 누가 지는가? file

키워드 보건의료, healthcare, 인공지능, artificial intelligence, AI, 기계학습, machine learning, 딥러닝, deep-learning, 책임, responsibility, accountability, 법적 책임, liability, 오류, 과실, error, 과오, 잘못, mistakes, 로봇윤리, robot ethics, 편향된 데이터, biased data, 블랙박스, black box, 배상, redress 

인공지능은 암을 진단하고 자살을 예측하고 수술을 돕는데 이용될 수 있음. 이 모든 사례에서 인공지능이 인간 의사들보다 정해진 과업으로 더 나은 결과를 낸다고 암시하는 연구결과도 나와 있음. 그런데 뭔가 잘못되면 누가 책임질까?   미국 캘리포니아폴리...

  • 조회 수 229

보조생식 및 출산 [오피니언] 감염병 대유행 중 임신 : 코로나19로 인한 스트레스 file

키워드 코로나19, COVID-19, 감염병 대유행, pandemic, 임신, pregnancy, 예비부모, pregnant couples, 스트레스, stress, 취약계층, vulnerable population, 소외된 집단, under-served group, 격리, quarantine, 산전후, perinatal, 경험, experience, 위험, risk, 격차, disparities, 사회적 지원, social support, COPE study 

임신은 그 자체로도 스트레스를 주지만, 코로나19가 추가되면 예비부모에게 새로운 난제를 가져옴. 미국 CDC(질병관리본부; Centers for Disease Control and Prevention)는 임신한 여성을 취약한 인구집단으로 식별해냄. 감염될 경우 병원에 입원할 가능성이 ...

  • 조회 수 136

생명윤리 배관공과 교사가 왜 맞춤형 아기에 대하여 발언권을 가져야 할까? file

키워드 유전자편집, gene editing, DNA-altering, 유전체편집, genome editing, 첨단기술, emerging technology, 맞춤형 아기, designer babies, genetically altered babies, 윤리적 영향, ethical implications, 사회적 영향, social implications, 가치, values, 원칙, principles, 일반인, lay-people, 일반 대중, general public, 시민의회, citizens' assemblies, 숙고, deliberation, 윤리 덤핑, ethics dumping, Science 

① 유전자편집기술의 윤리적‧사회적 영향은 과학자들과 정치인들에게만 맡기기에는 너무 심오함 ② 과학과 관련이 없는 직업에 종사하는 사람들이 유전자편집에 관한 회의에 참여해야 함 ③ 중국 연구자 한 명이 유전적으로 변경한 아기를 만들어낸 죄로 수감됨 ④...

  • 조회 수 142

의료윤리 누가 먼저 코로나19 백신을 맞아야 할까? … 할당계획이 구체화되고 있음 file

키워드 코로나19, coronavirus, COVID, 감염병 대유행, pandemic, 백신, vaccine, 우선순위, priority, 고위험, high risk, 할당, allocation, 지침, guidance, 권고, recommendations, 자문단, advisory group, 위원회, committee, panel, 사회적 약자, disadvantaged, 취약한, vulnerable, SVI, 소수집단, minority, 제도적 차별, systemic racism, 부당함, injustice, WHO, NASEM, CDC 

WHO 및 NASEM 자문단, 의료종사자와 최전방직업종사자를 우선하기 위한 지침 발표 미국 도널드 트럼프 대통령이 시사한 바와 같이, 수주 또는 수개월 이내에 코로나19 예방백신이 허가를 받을 예정이어서 뜨거운 기대를 받고 있음. 다만 제조사가 생산라인을 ...

  • 조회 수 428

장기 및 인체조직 [오피니언] 캐나다의 이식용 장기 부족 문제를 ‘거부하지 않으면 기증후보자가 되는’ 옵트아웃제도가 해결할 수 있음 file

키워드 장기기증, organ donation, 옵트아웃, opt-out, 동의추정, presumed consent, deemed consent, 옵트인, opt-in, 무관심, apathy, 말기신부전, ESRD, 자율성, autonomy, 공익, public interest, 규범, norm, 윤리적인 책임, ethical responsibility, 재정적인 인센티브, financial incentives, 투석치료, dialysis treatment, 신장이식, kidney transplantation 

2018년 캐나다에서 장기이식대기자로 등록된 사람은 총 4351명이었음. 같은 해 장기이식을 기다리다 사망한 사람은 223명이었음.    ☀ 캐나다 장기이식등록시스템(CORR; Canadian Organ Replacement Register)에 따르면 2018년에 총 2782건의 장기이식이 진행...

  • 조회 수 132

생명윤리 전문가들이 ‘유전체편집아기’는 너무 위험하다고 경고하면서 생식세포계열 편집지침 제시 file

키워드 유전체편집아기, CRISPR babies, 유전자편집, gene editing, 유전체편집, genome editing, 유전자가위, CRISPR–Cas9, 생식세포계열 편집, germline editing, 첨단기술, emerging technologies, 유전질환, genetic disorders, 인간배아, human embryos, 임상적용, clinical application, 사회적 태도, societal attitudes, 안전, 안전성, safety, 효능, efficacy, 의도하지 않은 효과, off-target effects, 윤리, ethics, 규율체계, 거버넌스, governance, 지침, guideline 

인간 배아의 유전자를 편집하는 것은 언젠가는 중증유전질환이 유전되는 것을 예방할 수 있을 것임. 그러나 세간의 이목을 끄는 국제적인 전문가위원회는 현재 이 기술이 착상될 예정인 배아에게 이용하기에는 너무 위험하다고 밝힘. 그리고 기술이 충분이 발...

  • 조회 수 655

연명의료 및 죽음 [오피니언] 세계뇌사프로젝트 뇌사판정기준 발표 – 죽음에 대한 겸손은 의사와 환자를 최선으로 도움 file

키워드 뇌사, brain death, WBDP, 뇌사판정, determination of brain death, 신경학적 기준, neurologic criteria, DNC, 합의, consensus, 권고, recommendations, 임상검사, clinical examination, 대중의 신뢰, public confidence, 착취, exploitation, 도덕적 실패, moral failures, 종교적 반대, religious objections, 지속적 식물상태, persistent vegetative state, 존중, respect, 겸손, humility, UDDA, JAMA 

☀ WBDP(세계뇌사프로젝트; World Brain Death Project)는 뇌사가 무엇인지, 누군가가 죽었을 경우 어떻게 판정되어야 하는지 합의에 도달하기 위하여 전문가들이 1992년 1월부터 2020년 4월까지 게재된 700건의 저널과 45건의 권고를 검토하여 통일된 뇌사판정...

  • 조회 수 184

인간대상연구 코로나바이러스 백신: 안전, 유통, 채택에 관한 질문 file

키워드 코로나19, COVID-19, 코로나바이러스, coronavirus, 백신, vaccines, 예방접종, vaccination, 정책, policies, 안전, safety, 유통, distribution, 위해, harm, 신뢰, confidence, 소통, communications, 감시, oversight, 숙고, deliberation, 잘못된 정보, misinformation, 백신에 대한 망설임, vaccine hesitancy, FDA, NIH, CDC, NAM 

코로나19의 급속한 확산과 그로 인한 생활에 대한 혼란은 백신에 관한 극도의 노력을 이전에 본 적이 없는 속도로 촉발시켰다고 과학자들은 말함. WHO(세계보건기구)에 따르면 8월 20일 기준 30종의 백신이 인간에게 시험되고 있고, 139종이 실험실에서 개발되...

  • 조회 수 204

과학기술발전 다기관공동연구: 척수성 근위축증에 대한 유전자치료 file

키워드 유전자치료, gene therapy, gene replacement therapy, 척수성 근위축증, SMA, spinal muscular atrophy, SMN1 gene, 임상시험, human trial, 안전, safety, 효능, efficacy, FDA, Pediatrics 

미국 FDA(식품의약품국; Food and Drug Administration)은 2019년 5월 5번 염색체(5q)로 인한 척수성 근위축증에 대한 유전자교체치료를 허가함. 허가 범위에는 2세 미만 SMA 환아라면 누구나 포함됨. 하지만 이 유전자치료는 태어난 지 8개월 이내의 어린이에...

  • 조회 수 115

과학기술발전 구글, 까다로운 인공지능윤리로 사람들을 돕겠다고 제안 file

키워드 인공지능, AI, artificial intelligence, 얼굴인식, facial recognition, 윤리적인 원칙, ethical principles, 윤리지침, ethical guidelines, 윤리적인 검토, ethical review, 사회에 대한 영향, influence on society, 구글, Google, 아마존, Amazon, 마이크로소프트, Microsoft, IBM 

기업은 자체적인 디지털인프라를 운영하지 않기 위하여 아마존, 마이크로소프트, 구글과 같은 클라우드업체에 엄청난 돈을 지불함. 구글의 클라우드부서는 조만간 고객들에게 중앙처리장치 및 디스크드라이브보다 실체가 덜 확실한 무언가(인공지능 이용의 옳...

  • 조회 수 170

생명윤리 미국 유타주, 감염병 대유행 시 장애인을 위한 안전장치 마련 file

키워드 코로나19, 코로나바이러스, coronavirus, 대유행, pandemic, 장애인, people with disabilities, disabled people, 환자분류지침, triage guideline, 취약계층, the vulnerable, 삶의 질, quality of life, 편향, bias, 의학적 판단, medical judgment, 차별, discriminatory, 상대적인 가치, relative worth, 기대수명, life expectancy, 인공호흡기 부족, ventilator shortage 

미국 유타주는 코로나19 대유행으로 병원이 압도당한 경우 의사가 진료할 때 장애가 있더라도 배제하지 않도록 위기관리지침을 정비한 다섯 번째 주가 됨.   미국 보건복지부(Department of Health and Human Services) 민권국(Office for Civil Rights) 책임...

  • 조회 수 171

보조생식 및 출산 동성커플이 인스타그램에 ‘기증정자 증정’이라며 정자를 경품으로 걸어 논란이 됨 file

키워드 정자기증, sperm donation, 정자기증자, sperm donor, sperminator, 기증정자, donor sperm, 경품, giveaway, 정자은행, sperm bank, 동성커플, same-sex couple, lesbian couple, 난임치료, fertility treatment, 체외수정, IVF, 임신, pregnancy, 가족, family, 소셜미디어, social media, 인스타그램, Instagram, 트위터, Twitter 

생식혁명의 가장 최신 사건은 캐나다 노바스코샤주에서 나옴.   여행블로거이자 성소수자(LGBT) 여성커플인 Allie Conway와 Sam Kwiatkowski는 ‘기증자 정자 증정(giveaway)’이라고 적힌 팻말을 들고 있는 본인들의 모습을 인스타그램을 통해 공개함. 인스타그...

  • 조회 수 143