총 15 건
총 15 건
자율주행차의 잠재적 위험 : 피부색이 어두운 보행자를 감지하지 못한다는 연구결과가 나옴
※ 기사. https://www.vox.com/future-perfect/2019/3/5/18251924/self-driving-car-racial-bias-study-autonomous-vehicle-dark-skin 참고문헌: https://arxiv.org/pdf/1902.11097.pdf 미국 조지아공대 연구에 따르면 자율주행차는 어두운 피부색을 가진 보행자를 감지하기 어려워 안전 문제 우려가 있음. 객체감지 기술의 훈련 데이터가 밝은 피부색에 치우쳐져 있어 어두운 피부색 감지 정확도가 낮아진 것으로 나타남. 인종적 편향 최소화를 위한 기술 발전이 필요하다는 경고가 나옴.
과학기술발전 2019.03.12 조회수 391
[오피니언] 인공지능 개발계획을 점검하기 위한 윤리위원회 구성
※ 기사. https://hbr.org/2019/11/create-an-ethics-committee-to-keep-your-ai-initiative-in-check?mod=djemAIPro 참고문헌: https://www.accenture.com/us-en/insights/software-platforms/building-data-ai-ethics-committees 인공지능을 이용하는 조직은 강력한 조직 전반의 가치가 책임지는 혁신을 조성하는데 역할을 해야 한다고 인식하기 시작함. 이는 평등에 대한 책임, 윤리적이고 인간적인 사용에 대한 책임이라는 두 가지 역할을 생성하는 것을 우선함. 윤리위원회는 조직의 가치에 기초한 의도를 유지하는 것뿐만 아니라 그들이 인공지능을 어떻게 이용하는지에 대한 투명성을 높이는데 도움을 줌. 이 구역을 선도하기 위하여 조직은 성장하기 위한 세 가지 영역에 초점을 맞춰야 함. ◆ 윤리 및 인공지능에 대한 거버넌스 구축 ◆ 공평함을 언제 어떻게 발생시키는지, 무슨 편향을 어떻게 설명할 것인지 ◆ 즉각...
과학기술발전 2019.11.25 조회수 233
인간다움과 윤리는 인공지능기술의 중심에 있어야 한다고 교황이 말함
※ 기사. https://catholicphilly.com/2020/02/news/world-news/humanity-ethics-must-be-at-center-of-ai-technology-pope-says/, https://www.bbc.com/news/technology-51673296 생명과학원은 ‘로봇윤리: 인간, 기계와 건강’을 주제로 2월 25일부터 26일까지 개최한 워크숍을 후원함. 2월 26일부터 28일까지 이어서 진행된 교황청 총회에서는 인공지능 사용에 필요한 과제와 보호장치, 인공지능이 윤리, 법적 권리, 보건의료분야에 미치는 영향을 연구하는데 전념함. 여기서 프란치스코 교황(Pope Francis)은 과학과 의학에서 인공지능을 사용할 경우 윤리적 기준과 공익의 추구를 우선하도록 안내해야 한다고 말함. 교황은 생물과학에서 인공지능 이용이 증가하는 것에 대하여 우려를 표하고, 생존하는 삶과 경험하는 삶 사이의 연관성과 통합성이 기능적 성능과 지속가능한 비용의 단순한 이념적 계산에 찬성...
과학기술발전 2020.03.04 조회수 236
딥마인드(DeepMind) 인공지능, 이틀 전 신장기능상실 예상
※ 기사. https://www.statnews.com/2019/07/31/deepmind-artificial-intelligence-predicts-acute-kidney-injury/ 참고문헌: https://www.nature.com/articles/s41586-019-1390-1 연구진은 nature 저널에 게재된 논문을 통해 수십만 개의 데이터를 고속으로 처리할 수 있는 기계학습시스템은 전자의무기록 내에서 임박한 위기를 의사에게 발생하기 전에 경고해줌. 연구진은 의사들이 환자의 경과에 미치는 영향을 완전하게 평가할 수 있도록 이 시스템이 임상현장에서 검증되어야 한다고 강조함. 그러나 초기 성공이 전자의무기록에 입원환자의 일련의 위기(심장마비, 폐렴, 패혈증 등)를 예측하는데 도움이 되는 알고리즘을 적용할 수 있는 미래로 이어질 가능성을 암시한다고 밝힘.
과학기술발전 2019.08.09 조회수 342
환자가 언제 사망할지 기계가 알 수 있을까?
※ 기사. https://www.wired.com/story/book-excerpt-machine-learning-medicine-predictions/ 참고문헌 : https://www.ncbi.nlm.nih.gov/pubmed/30537977 의사-환자관계의 변화와 인공지능의 역할에 대한 이야기를 서술하고 있음. 한 노인의 예시를 통해 삶의 마지막 단계와 완화의료에 대한 이야기가 포함됨. 미래에는 인공지능이 환자의 사망 시점을 정확하게 예측하고 의료 결정에 도움을 줄 수 있을 것으로 전망되지만, 이에 대한 윤리적인 고려와 인간적인 가치에 대한 고민도 함께 제기되고 있음.
과학기술발전 2019.03.20 조회수 314
[오피니언] 의학에서 인공지능은 법률적이고 윤리적인 우려를 불러일으킴
※ 기사. https://theconversation.com/artificial-intelligence-in-medicine-raises-legal-and-ethical-concerns-122504 의학에서 인공지능을 이용하는 것은 치료의 진보에 대한 엄청난 기대와 희망을 발생시킴. ☞ 우리가 컴퓨터 알고리즘에서 배운 7가지 : https://www.pewresearch.org/fact-tank/2019/02/13/7-things-weve-learned-about-computer-algorithms/ ☞ 기계학습, 유방 조기검진 MRI, 유방암환자의 항암치료 효과에 관한 저널 : https://www.ncbi.nlm.nih.gov/pubmed/30358693 그러나 의학에서 인공지능은 법률적이고 윤리적인 과제를 제기함. 프라이버시 침해, 차별, 정신적인 위해, 의사-환자관계 저하 등임. 필자는 정책결정자들이 유전자검사가 흔해질 때 그랬던 것처럼 인공지능과 관련된 많은 안전장치를 구축해야 한다고 주장함. ☞ 유전자검사가 예측적인 건강분석규정에 미친 영향에 관한 저널 : https:/...
과학기술발전 2019.09.11 조회수 363
기계학습으로 강력한 항생물질이 처음 발견되었다는 연구결과가 나옴
※ 기사. https://www.theguardian.com/society/2020/feb/20/antibiotic-that-kills-drug-resistant-bacteria-discovered-through-ai 참고문헌 : https://www.cell.com/cell/fulltext/S0092-8674(20)30102-1?utm_medium=homepage 미국 연구팀이 인공지능을 통해 약물 내성과 관련하여 가장 위험한 세균 중 일부를 죽이는 강력한 항생물질을 발견함. 이 약물은 제약화합물의 디지털 라이브러리(digital libraries)에 인공지능을 장착하여 발견된 최초의 항생물질임. 파괴할 수 있는 세균에는 세계보건기구(World Health Organization)가 새로운 항생제를 개발하기로 목표를 정한 세 가지 병원체 중 두 가지(Acinetobacter baumannii, Enterobacteriaceae)가 포함됨. 새로운 항생물질을 찾기 위해 연구팀은 먼저 세균을 죽이는 분자의 유형을 식별하기 위한 딥러닝 알고리즘을 훈련시킴. 알고리즘이 어떤 분자 특성이 좋은 항생...
과학기술발전 2020.02.24 조회수 186
데이터 과학자가 왜 인공지능의 과학적인 발견을 항상 믿지는 말라고 경고하는가
※ 기사. https://www.sciencenews.org/article/data-scientist-warns-against-trusting-ai-scientific-discoveries 기계학습(machine learning)을 하는 인공지능 시스템에게 어떤 결정을 맡길 수 있음. 기계학습이란 명시적인 지침을 따르는 대신 데이터를 연구하여 무엇을 해야 하는지 학습하는 프로그램을 말함. 인공지능은 달의 분화구를 세거나 지진 후 여진을 예측하는 등 인간이 쉽게 작업을 확인할 수 있는 영역에서 내리는 결정은 믿을만함. 하지만 여러 특징 사이에 이전에 알려지지 않았던 패턴이나 관계를 확인하기 위하여 대규모 데이터세트를 뒤지는 많은 탐색적인 알고리즘은 검증하기가 매우 어려움. 이러한 자율적인 데이터 입증시스템에 대하여 판단하는 것은 잘못된 결론을 이끌어낼 수 있음.
과학기술발전 2019.02.28 조회수 136
편향된 AI는 건강에 해로울 수 있다. - 알고리즘 공정성을 높이는 방법
※ 기사 [Biased AI can be bad for your health – here’s how to promote algorithmic fairness] https://theconversation.com/biased-ai-can-be-bad-for-your-health-heres-how-to-promote-algorithmic-fairness-153088 인공지능은 의사(doctors)가 정확한 진단과 치료 결정을 내릴 수 있도록 도와줌으로써 인간의 건강을 증진시킬 수 있는 큰 가능성을 가지고 있다. 또한 인공지능은 소수자(minorities), 여성, 경제적 약자에게 해(harm)를 끼칠 수 있는 차별로 이어질 수 있다. 문제는 보건의료 알고리즘이 차별되는 경우에 사람들이 어디에 의지할 수 있는가?에 있다. 이러한 종류의 차별의 두드러진 예는 고위험 환자를 돌보기 위한 프로그램인 만성질환자에게 추천되는 알고리즘이다. 2019년의 한 연구에 따르면 알고리즘은 이렇게 유익한 서비스에 환자를 선별할 때 아프리카계 미국인 환자보다 백인 환...
과학기술발전 2021.03.12 조회수 665
[오피니언] 임상의사결정을 위한 기계학습 : 보이지 않는 것에 주의하세요!
※ 기사. https://www.statnews.com/2019/12/12/machine-learning-clinical-decision-making-limitations/?utm_source=STAT+Newsletters&utm_campaign=99e4960888-Daily_Recap&utm_medium=email&utm_term=0_8cab1d7961-99e4960888-151680373 기계학습을 통한 연구의 주장을 심도 있게 검토하지 않고 받아들여서는 안 됨. ◆ 데이터에 대한 비판 -전자의무기록(청구, 임상 기록 등)의 흔한 형태는 보건의료시스템과 접한 사람에 대해서만 정보를 보유하고 있음. -병원에 방문하는 환자도 건강상태가 지속적으로 기록되지는 않음. -흑인과 원주민 환자는 암 임상시험에 실제 인구집단보다 현저하게 적게 참여하고 있음. ◆ 측정기준(metrics)에 대한 비판 -하나의 평가측정기준은 성능의 복잡함을 포착할 수 없음. -교차검증에서 다중 홀드아웃샘플에 기초하여 평가되지 않는 경우가 자주 있음. -어떤 도구가 하위그...
과학기술발전 2019.12.24 조회수 117
병원들은 기술대기업들이 세부 의료기록에 접근하도록 함
※ 기사. https://www.wsj.com/articles/hospitals-give-tech-giants-access-to-detailed-medical-records-11579516200 참고문헌: https://www.dailymail.co.uk/news/article-7908761/Hospitals-granted-Microsoft-Amazon-IBM-access-medical-records.html 미국 전역의 병원들은 개인 데이터가 오용될 수 있다는 우려 속에 마이크로소프트, 아마존, IBM이 수백만 명의 환자의 민감한 신원 확인 의료 기록에 접근할 수 있도록 허용함. [관련 기사 및 보도 영상] https://www.wsj.com/articles/hospitals-give-tech-giants-access-to-detailed-medical-records-11579516200 ◆ 요약 - 기술 대기업들은 각각 워싱턴, 매사추세츠, 미네소타에 있는 의료 센터와 협력하고 있음. - 각각의 거래는 수백만 건의 기록으로부터 정보를 넘겨받을 수 있다는 것을 의미함. - 병원은 프라이버시법을 준수하는 한 환자 데이터를 공유할 수 있...
개인정보보호 2020.01.30 조회수 140
심장수술부터 출산까지 영향을 미치는 임상적인 알고리즘이 인종편향적인 왜곡을 보인다는 연구결...
※ 기사. Racial bias skews algorithms widely used to guide care from heart surgery to birth, study finds https://www.statnews.com/2020/06/17/racial-bias-skews-algorithms-widely-used-to-guide-patient-care/ 미국 내과의사들에게 심장수술을 받는 환자, 신장치료가 필요한 환자, 질식 분만을 시도해야 하는 환자 등의 진료 시 의사결정에 도움이 되는 도구가 인종적으로 편향되어있다고 NEJM(New England Journal of Medicine) 저널에 게재됨. ☞ NEJM 저널 : https://www.nejm.org/doi/full/10.1056/NEJMms2004740 수천만 명의 미국인들의 건강관리를 지도하기 위해 병원과 의사들에게 이용되는 알고리즘은 개발자가 모르는 암묵적인 인종차별주의로 엉망이라는 것이 최근의 증거임. 이는 종종 흑인들이 더 낮은 수준의 진료를 받는 결과를 초래함. 이 새로운 연구결과는 인종과 알고리즘에 의한 환자 진료에 대...
의료윤리 2020.06.29 조회수 237
새로운 알고리즘은 사전의료계획에 관한 대화가 필요한 암환자를 표시해준다는 연구결과가 나옴
※ 기사. https://www.news-medical.net/news/20191025/New-algorithm-flags-cancer-patients-in-need-of-advance-care-planning-conversations.aspx 참고문헌: https://jamanetwork.com/journals/jamanetworkopen/fullarticle/2753527 미국 펜실베이니아대 의과대학(Penn Medicine) 연구팀은 본인의 생애 말기 목표와 희망에 대해 우선적으로 대화가 필요한 환자를 표시하는 알고리즘을 개발함. 연구결과에 따르면 알고리즘이 대화의 우선순위가 높다고 분류한 환자의 절반이 이후 6개월 이내에 사망했다고 함. 반면 우선순위가 낮다고 분류한 환자 중 6개월 이내에 사망한 환자는 4% 미만이었다고 함. 이는 알고리즘이 진료의 목표, 가치, 선호에 관한 시기적절한 논의로 이익을 가장 많이 얻을 수 있는 환자들을 정확하게 포착한다는 점을 시사함.
과학기술발전 2019.10.30 조회수 354
[오피니언] 피부에 부착하는 센서는 보건의료의 미래
※ 기사. https://www.nature.com/articles/d41586-019-02143-0 피부에 부착하는 얇고 부드러운 전자시스템이 보건의료를 변화시키기 시작함. 유연한 필름, 패치, 붕대 또는 문신으로 구성된 센서, 컴퓨터 및 전송기의 초기 버전은 신경학적인 어플리케이션 시험에 이용되고 있고, 빠르게 증가하고 있음. 수집한 데이터는 활력징후를 감시하고, 이상증상을 발견하고, 치료를 추적하는 목적인 기계학습알고리즘에 입력될 것임. 의학적인 문제는 더 일찍 드러날 것임. 의사는 환자가 집에 있는 동안 원격으로 환자의 회복을 감시하고, 상태가 악화되면 개입할 것임. 감염병 전파는 정부부처가 자원을 동원하고, 취약한 인구집단을 식별하고, 약물의 안전성과 효과를 감시하면 빠르게 약해질 것임. 이 모든 것이 보건의료를 더 예측할 수 있고, 안전하고, 효과적이도록 만들 것임.
과학기술발전 2019.07.24 조회수 432
미 국립표준기술원(NIST)이 인종편향에 대한 얼굴인식 알고리즘을 시험하는 방법
※ 기사. https://www.scientificamerican.com/article/how-nist-tested-facial-recognition-algorithms-for-racial-bias/ 국립표준기술원(National Institute of Standards and Technology, 이하 NIST)의 분석 결과, 알고리즘의 많은 부분이 백인에 비해 흑인이나 동아시아의 얼굴을 부정확하게 식별할 가능성이 10배에서 100배 더 높았다는 것을 밝혀냄. <얼굴 인식 벤더 테스트 프로그램이란> 얼굴인식 벤더 테스트는 얼굴 인식 기능의 핵심 알고리즘 테스트임. 첫 번째 파트에서는 일대일 검증 정확도를 통해 알고리즘이 두 개의 이미지를 얼마나 잘 취하여 같은 사람인지의 여부를 판단할 수 있는지 확인함. 두 번째 파트는 일대 다식별(one-to-many identification) 과정을 살펴봄. <세 번째 단계의 결과는?> 세 번째 파트는 데이터 세트의 서로 다른 인구 통계학 전반에 걸쳐 알고리즘이 다르게 차등적으로 수행되는지...
과학기술발전 2020.01.10 조회수 521