해외언론동향
해외언론동향 내용 담당 :생명윤리안전정책연구팀 : 02-737-8452,
게재 일자 : 2019-03-07 
키워드 : 인공지능, artificial intelligence, AI, 자율무기, autonomous weapons, 국방부, Pentagon project, 윤리원칙, ethical principles, 윤리자문가, ethics adviser, 윤리위원회, review board, 정부규제, government regulation, 사회적인 영향, social implications, 산업계, industry, 클래리파이, Clarifai, 구글, Google, 마이크로소프트, Microsoft, 아마존, Amazon 

인공지능 구축업체 클래리파이(Clarifai)가 미국 국방부와 협력한다는 기사가 나오고, 일부 직원들이 드론(drone; 원격조종항공기)으로 촬영한 영상을 분석하는 인공지능 구축 윤리에 의문을 제기하자, 업체 측은 민간인(civilians)과 군인(soldiers)의 생명을 구하는 사업이라고 밝힘.

 

이 업체의 대표(Matt Zeiler)우리의 임무는 인공지능을 끊임없이 개선하여 인류의 발전을 가속화하는 것이라면서 모든 사업이 윤리적으로 건전하다는 것을 보장하기 위한 새로운 관리직을 발표함.

 

정치적 활동가, 연구자 및 기자들은 인공지능의 증가에 대하여 우려를 표명하면서 편파적이고 기만적이고 악의적인 사용에 대하여 경고하고 있고, 이러한 기술을 구축하는 업체들은 이에 대응하고 있음. 구글(Google)과 마이크로소프트(Microsoft)와 같은 대기업부터 소규모 벤처기업(start-ups)에 이르기까지 많은 사람들이 시스템이 윤리적으로 설계되고 배치되도록 보장하기 위한 기업원칙을 만들고 있음. 이 원칙을 감독하기 위하여 윤리담당관이나 검토위원회를 설치하는 경우도 있음.

 

하지만 이러한 약속들을 궁극적으로 지킬 수 있을지에 대한 의문이 제기되면서 긴장감이 높아지고 있음. 기업은 노선을 바꿀 수 있고, 이상을 추구하는 것(Idealism)은 재정적인 압박에 굴복할 수 있음. 몇몇 정치적 활동가들, 심지어 일부 업체는 윤리적인 관행을 보장하기 위한 유일한 방법은 정부의 규제라고 주장하기 시작함. 마이크로소프트 대표(Brad Smith)상업적인 경쟁의 바닥까지 보고 싶지는 않다면서 법률이 필요하다고 밝힘.

 

클래리파이의 새로운 윤리직군(ethics position)은 전혀 구체화되지 않았음. 이 뉴욕시의 사업이 군사적 사용(military applications)과 얼굴인식서비스(Facial recognition services)에 더욱 박차를 가하면서, 일부 직원들은 자율무기를 이용한 전투(automated warfare)나 국가기관에 의한 국민 감시(mass surveillance)로 이어질 것을 점점 더 우려하고 있음. 지난 1월에는 사내 게시판에 본인들의 일이 어디를 향하고 있는지를 묻는 공개서한을 올림.

 

Zeiler 대표는 사내 회의를 통해 윤리담당관과 같은 직책은 이런 작은 회사에는 어울리지 않으며, 자사의 기술이 언젠가는 자율무기(autonomous weapons)에 기여할 것이라고 밝힘.

 

클래리파이는 사진과 동영상에서 물체를 즉시 인식하는 기술을 전문으로 함. 정책입안자들은 이를 이중이용기술(dual-use technology)’이라고 칭함. 한정판 가방을 식별하는 상업적인 사용뿐만 아니라 드론의 목표물을 확인하는 군사적인 응용도 가능하기 때문임.

 

이러한 기술과 빠르게 발전하는 인공지능은 운송, 보건의료, 과학적 연구를 향상시킬 수 있음. 동시에 국민 감시, 온라인 피싱 공격(phishing attacks; 개인정보를 알아내 그들의 돈을 빼돌리는 사기), 허위 보도(false news) 유포 등으로 이어질 수도 있음.

 

편향(Bias) 발견

 

기업과 정부가 이러한 인공지능을 배치함에 따라 연구자들은 일부 시스템이 편향되어 있다는 것을 깨닫고 있음. 예를 들어 얼굴인식서비스는 여성이나 피부색이 어두운 사람을 식별할 때 덜 정확할 수 있음. 다른 시스템은 과거에 본 적이 없는 안전 취약점(security holes)을 포함할 수도 있음. 연구자들은 무인자동차(driverless cars; 자율주행차)가 실제로 존재하지 않는 것들을 보도록 속일 수 있다는 것도 보여준 바 있음.

 

이 모든 것은 윤리적인 인공지능을 구축하는 것이 대단히 복잡한 작업이라는 것을 의미함. 이해관계자들이 지켜보는 사람(beholder)의 눈앞에 윤리가 있다는 것을 깨닫게 되면 더욱 어려워짐.

 

마이크로소프트의 일부 직원들이 자사의 군사계약에 항의하자, Smith 대표는 미국 기술업체들이 오랫동안 군을 지원해왔으며, 앞으로도 계속 그렇게 해야 한다고 밝힘. “미군은 이 나라의 자유를 보호하는 임무를 맡고 있다면서 목숨을 위협받는 사람들을 지켜야 한다고 말함.

 

클래리파이의 일부 직원들은 자율무기로는 이어지지 않을 것이라며 윤리적인 선을 긋지만, 그렇지 않은 직원도 있음. Zeiler 대표는 자율무기가 인간이 조종통제하는 것보다 더 정확하기 때문에 궁극적으로 생명을 구할 것이라고 주장하면서, “인공지능은 무기의 정확성을 높여, 부수적인 피해를 줄이고, 민간인 사상자와 화재 사고를 최소화하기 위한 필수 도구라고 밝힘.

 

구글은 클래리파이처럼 펜타곤프로젝트를 진행했는데, 직원들의 항의를 받아, 결국 더 이상 관여하지 않음. 그러나 다른 20개의 업체는 클래리파이와 마찬가지로 윤리적인 우려에 굴하지 않고 이 프로젝트를 진행해 옴.

 

펜타곤프로젝트를 둘러싼 논란 이후로 구글은 장래의 사업에 대한 지침인 인공지능 원칙(principles)’을 마련함. 하지만 사내 규정이 마련되어도 일부 직원들은 반발하며 회사를 떠남. 원칙은 해석하기에 따라 다르며(open to interpretation), 회사의 재정적인 이익도 옹호해야 하는 임원들이 감독하기 때문임. 작년 말 퇴사한 직원(Liz Fong-Jones)고양이에게 생선을 맡기는 격(the foxes are guarding the henhouse)”이라고 표현함.

 

구글은 2014년 세계에서 가장 중요한 인공지능연구소인 딥마인드(DeepMind)를 인수하면서, 딥마인드의 연구가 군사어플리케이션 등 비윤리적인 사업에 사용되지 않도록 보장하는 외부검토위원회를 설치하기로 함. 하지만 5년이 지난 지금도 그 위원회는 설치여부조차 분명하지 않음.

 

구글, 마이크로소프트, 페이스북(Facebook) 등 업체들은 인공지능에 대한 전체 사업의 실무를 안내하는 것을 목표로 하는 연합체(Partnership)같은 기구를 창설함. 그러나 그 기구는 대체로 권한이 없음(largely toothless).

 

직원들이 반대의사를 공개적으로 밝힘(Speak Out)

 

가장 중요한 변화는 구글처럼 직원들의 항의, 학자 및 독립적인 전문가들의 연구에 의하여 탄력을 받음. 아마존(Amazon) 직원들이 경찰서에 얼굴인식서비스 판매에 대하여 항의하고, 다양한 학술 연구가 이러한 서비스를 괴롭히는(plague) 편향을 부각시키면서, 아마존과 마이크로소프트는 이 분야에 대한 정부의 규제를 요구함.

 

인공지능의 사회적인 영향을 조사하는 연구소(AI Now Institute)의 공동설립자(Meredith Whittaker)사람들이 문제가 있고, 이를 바꾸기를 원한다고 인식하고 있다고 밝힘. 하지만 자본주의의 힘은 기업이 더 큰 이익을 추구하도록 유도하기 때문에 이러한 변화가 더디다고 덧붙임.

 

클래리파이의 직원들은 얼굴인식기술이 궁극적으로 자율무기로 이어지고, 이러한 기술의 결함은 판도라의 상자를 열 것이라고 우려함. “산업 내에서 기술은 원칙을 굽힐 것이라면서 해커는 해킹할 것이고, 편향은 피할 수 없다고 밝힘. 산업계의 인공지능 연구자 수천 명은 자율무기를 반대하는 별도의 공개서한에 서명함.

 

미국 국방부는 구글과 클래리파이와 같은 업체에서 만든 인공지능이 공격 목적으로는 사용되지 않았다고 밝힘. 최근 몇 년 동안 세계 최고 수준의 연구원들을 잃어버린 산업계에 대한 지원이 필요하다는 것을 깨닫고, 현재 독자적인 윤리원칙을 세우고 있음.

 

하지만 많은 정책전문가들은 이러한 원칙이 대기업에서 마련한 것보다 더 큰 영향력을 갖지는 못할 것으로 내다봄. 미국 국방부는 비슷한 기술을 개발하는 중국, 러시아 등 경쟁국과 보조를 맞추려는 의욕이 강하기 때문임. 이러한 이유로 일부에서는 자율무기 사용을 금지하는 국제협약까지 요구하고 있음.

 

규제가 답일까?

 

클래리파이 직원들은 공개서한을 통해 즉각적인 책임은 업체가 지게 된다고 주장하면서, 규제가 인공지능을 둘러싼 많은 윤리적인 문제에 대한 해답인지를 확신할 수 없다고 밝힘. “규제는 진보를 늦추는데, 우리 종족은 오늘날 당면한 위협으로부터 살아남기 위하여 진보가 필요하다면서 우리 스스로 이 기술을 만들어내는 것에 대하여 신뢰할 수 있을 만큼 윤리적이어야 하며, 국민들에게 우리의 윤리를 명확하게 알릴 의무가 있다고 강조함.

 

그러나 그들의 서한은 바람직한 효과를 거두지 못함. Zeiler 대표가 자사의 기술이 자율무기에 기여할 것이라고 설명한 며칠 뒤 윤리자문가(ethics adviser)로 채용된 직원(Liz O’Sullivan)이 회사를 떠남.

 

연구자들과 정치적 활동가들은 기술직 직원들이 본인의 힘을 이용하여 변화를 이끌어낼 때라고 보고 있음. 그러나 그들은 이러한 일이 외부 기술업체에서도 일어나야 한다고 밝힘.

 

Whittaker우리는 규제가 필요하다면서, 마이크로소프트 기업법무최고책임자의 이름을 들먹이기(name-dropping) 전에 마이크로소프트 Smith 대표조차 우리에게 규제가 필요하다고 말한다고 밝힘.

 

기사 및 사진 : https://www.nytimes.com/2019/03/01/business/ethics-artificial-intelligence.html

 

List of Articles
번호 제목 키워드 조회 수

과학기술발전 자율주행차의 잠재적 위험 : 피부색이 어두운 보행자를 감지하지 못한다는 연구결과가 나옴 file

키워드 자율주행차, self-driving cars, autonomous vehicle, 알고리즘, algorithms, 알고리즘 편향, algorithmic bias, 데이터세트, dataset, 객체감지모델, object-detection models 

자율주행차에 대한 우려사항 목록이 늘어나고 있음. 얼마나 안전한지, 도로에서 곤란한 도덕적인 타협(tricky moral trade-offs)을 어떻게 이루는지, 교통체증을 어떻게 악화시키는지를 넘어서, 유색인종 사람들에게 어떻게 해를 끼칠 수 있는 지까지 걱정할 ...

  • 조회 수 153

낙태 미국 앨라배마주 법원, 청소년인 아버지가 낙태된 태아를 대신하여 고소하는 것 허용 file

키워드 낙태, abortion, 낙태클리닉, Huntsville abortion clinic, 태아, fetus, deceased child, Baby Roe, 인격체, personhood, legal person, 법정대리인, legally represents, 헌법, constitution, 생명권, right to life, 프로초이스, pro-choice, 낙태권, abortion rights 

미국 앨라배마주의 소년이 본인의 의사에 반하여 태아의 생명을 종결시킨 것에 대하여 낙태클리닉을 고소함. 앨라배마주 법원은 낙태된 태아 ‘Baby Roe’를 원고로 인정함.   매디슨카운티(Madison County)의 19세 소년(Ryan Magers)은 본인의 여자친구가 본인...

  • 조회 수 127

연명의료 및 죽음 콜롬비아에서 말기상태 아이의 조력죽음을 허용하는 것은 도덕적으로 떳떳하지 못함(murky) file

키워드 의사조력죽음, medically assisted death, 안락사, euthanasia, 합법화, decriminalized, 말기, terminally ill, 미성년자, children, 완화의료, palliative care, 취약한, vulnerable, 위원회, committee, 공론화, public debate, 생명윤리학자, bioethicist, 보건부, Ministry of Health 

콜롬비아는 중남미국가 중 가장 먼저(2015년) 의사조력죽음(medically assisted death)을 합법화했고, 작년 5월에는 아이들에게까지 허용함.   이는 80%의 국민이 가톨릭 신자(Roman Catholics)이고, 기독교 신자(evangelical Christians)도 급속히 늘어나고 ...

  • 조회 수 104

장기 및 인체조직 일본, 동물의 체내에서 인간의 장기를 길러낼 수 있도록 연구 규제 완화 file

키워드 이종이식, xenotransplantation, iPS세포, iPS cells, induced pluripotent stem cells, 키메라, chimeras, 동물배아, Animal-Human Chimeric Embryo, animal embryos, 장기, human organs, 췌장, human pancreas in pig, IRB, 문부과학성 

일본 문부과학성이 연구에 대한 규정을 완화하여 인간의 iPS세포(역분화줄기세포)를 동물의 배아에 주입할 수 있도록 허용함. 이로써 인간의 췌장을 가진 돼지 배아를 생성하여 성인 돼지의 자궁에 이식할 수 있게 됨. iPS세포는 신체의 어느 부분으로도 변할 ...

  • 조회 수 187

과학기술발전 소아과 의사들이 아이들의 유전자검사 방법과 이유에 대해 설명함 file

키워드 소아, 유전자검사, 소아과, 진단, 유전자치료, 약물, 치료, 원인유전자 

 만약 아이들에게 발달 장애나 운동·언어·인지 기능에 지체가 있다면 소아과의사는 유전상담이나 유전자검사를 추천할 수 있다는 JAMA 소아학(JAMA Prediatrics)에 게시된 소아과 의사들이 작성한 글이 발표됨. 이는 시각·청각·발달·발작·기분·면역·성장·소화·...

  • 조회 수 131

개인정보보호 사용자에게 데이터 프라이버시를 부여 file

키워드 프라이버시, 리버베드, Riverbed, 클라우드, 클라우딩, 컴퓨터, 프로그램, USENIX, EFF, 데이터, 앱, 게이트키퍼 

새로운 플랫폼은 웹 서비스가 사용자의 맞춤 데이터 제한을 준수하는지 확인하는 게이트키퍼 역할을 함.   MIT와 하버드대학의 연구원들이 개발한 새로운 플랫폼은 웹 서비스가 데이터 클라우드에 저장되고 공유되는 방식에 대한 사용자의 선호를 준수하도록 ...

  • 조회 수 186

과학기술발전 윤리적인 인공지능, 가능할까? file

키워드 인공지능, artificial intelligence, AI, 자율무기, autonomous weapons, 국방부, Pentagon project, 윤리원칙, ethical principles, 윤리자문가, ethics adviser, 윤리위원회, review board, 정부규제, government regulation, 사회적인 영향, social implications, 산업계, industry, 클래리파이, Clarifai, 구글, Google, 마이크로소프트, Microsoft, 아마존, Amazon 

인공지능 구축업체 클래리파이(Clarifai)가 미국 국방부와 협력한다는 기사가 나오고, 일부 직원들이 드론(drone; 원격조종항공기)으로 촬영한 영상을 분석하는 인공지능 구축 윤리에 의문을 제기하자, 업체 측은 민간인(civilians)과 군인(soldiers)의 생명을...

  • 조회 수 260

보조생식 및 출산 죽은 다음, 아빠 되기 file

키워드 이스라엘, IVF, 사후 생식, Shira, 정자 채취 

이스라엘에서는 사후에 잉태한 아동에 대한 권리가 파트너에게뿐만 아니라 사망자의 부모에게도 차츰 부여되고 있는 중임.   4년도 훨씬 전에 리앗 말카(Liat Malka)는 자신의 단 하나의 난자(solitary egg)를 병원 페트리 접시에서 수정시키기 위해 자신이 만...

  • 조회 수 166

장기 및 인체조직 잉글랜드, 장기기증을 거부하지 않으면 기증후보자가 되는(opt-out) 제도 도입 file

키워드 장기기증, organ donation, 옵트아웃, opt-out, 옵트인, opt-in, 추정적 동의, presumes consent, deemed consent, Max and Keira's Law, BMA, NHSBT, England 

잉글랜드의 동의 의사를 등록하면 장기를 기증할 수 있는(opt-in) 제도가 거부 의사를 등록한 적이 없으면 기증할 수 있는(opt-out) 제도로 2020년 4월부터 바뀔 예정임. 명시적으로 거부한 적이 없으면(explicitly choose not to) 장기기증에 동의한다고 추정...

  • 조회 수 335

보조생식 및 출산 중국이 유전자편집 사건 이후 생명공학기술에 관한 새로운 법률(안)을 발표함 file

키워드 중국, 규제, 유전자편집, gene editing, 생명공학, 생명과학, 유전자가위 

과학계를 혼란에 빠뜨린 중국인 과학자의 유전자편집 아기 사건 이후에 중국은 유전자편집을 포함한 잠재적인 위험성을 내포하고 있는 생물의학 기술을 규율하기 위한 안을 공개했음. 이 안에 따르면 유전자편집(gene editing), 유전자전달(gene transfer) 및 ...

  • 조회 수 433

의료윤리 미국 FDA, 유방절제술 등에 로봇을 이용하는 것에 대하여 경고 file

키워드 로봇수술, robotic surgery, Robotically-Assisted Surgery, robotically-assisted surgical devices, RAS Devices, 식약처, 의료기기 허가, marketing authorization, FDA 

미국 식품의약품국(FDA; Food and Drug Administration)은 로봇수술이 암 치료 및 예방목적으로는 허가를 받지 않았다며, 유방절제술(mastectomy) 등 암 관련 수술에 로봇수술을 고려하고 있는 환자와 의사들에게 경고함.   FDA 담당자(Dr. Terri Cornelison)...

  • 조회 수 144

의료윤리 대형 제약회사, 이전과 달리 연구결과를 누구나 볼 수 있게 게재하는 경향을 보임 file

키워드 연구결과 공개, open-access publishing, publishing openly reaches, open access, 제약회사, big pharma, pharmaceutical industry 

제약업계에서 일하는 연구자들이 산업계에 속하지 않은 학자들보다 더 높은 비율로 공개(open-access) 논문을 발표하기 시작함. 제약업계 연구자들이 참여한 공개논문 비율은 2009년부터 2016년 사이에 두 배로 증가했으며, 2016년에는 학계를 넘어섬.   이는 ...

  • 조회 수 146

연명의료 및 죽음 미국 네바다주, 의사조력자살을 허용하기 위해 노력(오리건주 2018년 보고서 소개) file

키워드 의사조력자살, physician-assisted suicide, 의사조력죽음, Medical Aid in Dying, 존엄사, Death with Dignity, DWDA, Nevada, Oregon 

미국 네바다주가 워싱턴DC에 이어 8번째로 존엄사(Death with Dignity)를 법으로 허용하는 주가 될 것이라는 기대가 나오고 있음. 의사조력자살(physician-assisted suicide)을 허용하는 법안이 지난 2월 국회 보건복지위원회(Senate Committee on Health and ...

  • 조회 수 700

인간대상연구 연구참여자에게 지불하는 비용이 거짓말을 유발할 수 있음 file

키워드 인간대상연구, 연구참여자, 연구대상자, 진실성, 보상, 의료윤리 

연구에 참여하는데 돈을 지불받은 사람들은 돈을 지불받지 않은 사람들보다 자신의 적격성에 대해 거짓말을 하는 경향이 있다고 새로운 연구 결과가 밝혀졌음. 최근 2,300명의 사람들이 최근에 독감 예방 접종을 받았는지 여부를 조사했음. 한 그룹의 참가자는...

  • 조회 수 81

인간대상연구 영국 보건연구청은 만성피로증후군 임상시험(PACE)이 적절하게 수행되었다고 밝힘 file

키워드 PACE trial, 임상시험, clinical trial, 연구윤리위원회, Research Ethics Committees, REC, IRB, 투명성, transparency, 이해상충, Conflicts of Interest, HRA, research waste 

연구의 85%는 낭비(Waste)에 가깝다는 말이 있음. 가설이 잘못되었거나, 설계가 엉망이거나, 게재나 출판을 하지 않거나, 제대로 보고하지 않았기 때문임. 연구의뢰자, 규제당국, 연구자금 지원자, 과학계가 해야 할 일이 많음. 하지만 이는 좋은 연구를 하는 ...

  • 조회 수 98

인간대상연구 10대 대상 간헐적 단식연구를 승인한 위원회에 의료전문가들이 연구 중단 요구 file

키워드 인간대상연구, 기관생명윤리위원회, IRB, REC, Human Research Ethics Committee, 미성년자, adolescents, children, AAP, NHMRC 

소아과 의사, 임상심리학자, 영양사, 섭식장애 전문가 등 보건의료전문직들이 호주의 청소년 대상 간헐적 단식(intermittent fasting diet)이 미치는 영향을 조사하는 연구를 중단시키려고 함.   그들은 멜버른의 모나쉬어린이병원(Monash Children’s Hospital...

  • 조회 수 187

과학기술발전 데이터 과학자가 왜 인공지능의 과학적인 발견을 항상 믿지는 말라고 경고하는가 file

키워드 인공지능, Artificial intelligence, AI, machine learning, scientific discoveries, scientific insights, data-mining algorithms, 불확실성, uncertainty 

우리는 이전보다 더 많은 양의 유전정보, 의학적 영상정보, 천문학적 관측자료 등이 축적된 과학 데이터의 황금기에 살고 있음. 인공지능(AI; Artificial intelligence)은 이러한 귀중한 수집정보를 사람보다 훨씬 더 빨리 자세히 조사하여 새로운 과학적인 발...

  • 조회 수 45

연명의료 및 죽음 정신질환자 대상 안락사에 대하여 다시 생각하게 하는 형사사건 file

키워드 정신질환, mental illness, psychiatric illness, 의사조력죽음, medically assisted death, 의사조력자살, physician-assisted suicide, 안락사, euthanasia, 말기, terminally ill, NEJM, JAMA Psychiatry 

최근 벨기에에서 정신질환자 의사조력죽음(medically assisted death)에 대한 수사가 시작되면서, 의사조력죽음을 찬성했던 사람들 사이에서도 우려의 목소리가 높아지고 있음.   2010년 아스퍼거증후군(Asperger syndrome)을 앓는 38세 여성 환자에게 벌어진 ...

  • 조회 수 796

개인정보보호 [오피니언] GDPR: 아직 무겁지는 않으나, 데이터 누출의 공개를 추동하고 있음 file

키워드 GDPR, 정보 누출, EU, 벌금, Google, DLA 파이퍼 보고서, 디지털 생태계 

EU의 기념비적인 GDPR이 시행된지 8개월이 막 지나가고 있는 가운데, 이들 메시지 중 최소한 하나는 주요한 반향을 가지는 것으로 보임. 감추는 것은 범죄보다 더 나쁘고 더 많은 값을 치루게 될 것임.   다양한 의무 사항 중 GDPR은 조직들이 데이터 누출을 ...

  • 조회 수 87

인간대상연구 처음으로 ‘재프로그래밍된’ 줄기세포로 척추 손상을 치료함 file

키워드 유도전능성 줄기세포, iPS 세포, 임상시험, 재프로그래밍, 척추 손상 치료, 일본, 오카노 팀 

일본 규제자들의 승인은 유도전능성줄기세포의 임상시험이 올해 말에 시작되리란 것을 의미함.     2019년 2월 22일 David Cyranoski     일본의 과학자들은 이제 ‘재프로그램화된’ 줄기세포를 척추 손상 환자들에게 주입하는 허락을 가짐.   다가올 임상 시험...

  • 조회 수 97