총 8 건
총 8 건
편향된 AI는 건강에 해로울 수 있다. - 알고리즘 공정성을 높이는 방법
※ 기사 [Biased AI can be bad for your health – here’s how to promote algorithmic fairness] https://theconversation.com/biased-ai-can-be-bad-for-your-health-heres-how-to-promote-algorithmic-fairness-153088 인공지능은 의사(doctors)가 정확한 진단과 치료 결정을 내릴 수 있도록 도와줌으로써 인간의 건강을 증진시킬 수 있는 큰 가능성을 가지고 있다. 또한 인공지능은 소수자(minorities), 여성, 경제적 약자에게 해(harm)를 끼칠 수 있는 차별로 이어질 수 있다. 문제는 보건의료 알고리즘이 차별되는 경우에 사람들이 어디에 의지할 수 있는가?에 있다. 이러한 종류의 차별의 두드러진 예는 고위험 환자를 돌보기 위한 프로그램인 만성질환자에게 추천되는 알고리즘이다. 2019년의 한 연구에 따르면 알고리즘은 이렇게 유익한 서비스에 환자를 선별할 때 아프리카계 미국인 환자보다 백인 환...
과학기술발전 2021.03.12 조회수 665
심장수술부터 출산까지 영향을 미치는 임상적인 알고리즘이 인종편향적인 왜곡을 보인다는 연구결...
※ 기사. Racial bias skews algorithms widely used to guide care from heart surgery to birth, study finds https://www.statnews.com/2020/06/17/racial-bias-skews-algorithms-widely-used-to-guide-patient-care/ 미국 내과의사들에게 심장수술을 받는 환자, 신장치료가 필요한 환자, 질식 분만을 시도해야 하는 환자 등의 진료 시 의사결정에 도움이 되는 도구가 인종적으로 편향되어있다고 NEJM(New England Journal of Medicine) 저널에 게재됨. ☞ NEJM 저널 : https://www.nejm.org/doi/full/10.1056/NEJMms2004740 수천만 명의 미국인들의 건강관리를 지도하기 위해 병원과 의사들에게 이용되는 알고리즘은 개발자가 모르는 암묵적인 인종차별주의로 엉망이라는 것이 최근의 증거임. 이는 종종 흑인들이 더 낮은 수준의 진료를 받는 결과를 초래함. 이 새로운 연구결과는 인종과 알고리즘에 의한 환자 진료에 대...
의료윤리 2020.06.29 조회수 237
인간다움과 윤리는 인공지능기술의 중심에 있어야 한다고 교황이 말함
※ 기사. https://catholicphilly.com/2020/02/news/world-news/humanity-ethics-must-be-at-center-of-ai-technology-pope-says/, https://www.bbc.com/news/technology-51673296 생명과학원은 ‘로봇윤리: 인간, 기계와 건강’을 주제로 2월 25일부터 26일까지 개최한 워크숍을 후원함. 2월 26일부터 28일까지 이어서 진행된 교황청 총회에서는 인공지능 사용에 필요한 과제와 보호장치, 인공지능이 윤리, 법적 권리, 보건의료분야에 미치는 영향을 연구하는데 전념함. 여기서 프란치스코 교황(Pope Francis)은 과학과 의학에서 인공지능을 사용할 경우 윤리적 기준과 공익의 추구를 우선하도록 안내해야 한다고 말함. 교황은 생물과학에서 인공지능 이용이 증가하는 것에 대하여 우려를 표하고, 생존하는 삶과 경험하는 삶 사이의 연관성과 통합성이 기능적 성능과 지속가능한 비용의 단순한 이념적 계산에 찬성...
과학기술발전 2020.03.04 조회수 236
[오피니언] 임상의사결정을 위한 기계학습 : 보이지 않는 것에 주의하세요!
※ 기사. https://www.statnews.com/2019/12/12/machine-learning-clinical-decision-making-limitations/?utm_source=STAT+Newsletters&utm_campaign=99e4960888-Daily_Recap&utm_medium=email&utm_term=0_8cab1d7961-99e4960888-151680373 기계학습을 통한 연구의 주장을 심도 있게 검토하지 않고 받아들여서는 안 됨. ◆ 데이터에 대한 비판 -전자의무기록(청구, 임상 기록 등)의 흔한 형태는 보건의료시스템과 접한 사람에 대해서만 정보를 보유하고 있음. -병원에 방문하는 환자도 건강상태가 지속적으로 기록되지는 않음. -흑인과 원주민 환자는 암 임상시험에 실제 인구집단보다 현저하게 적게 참여하고 있음. ◆ 측정기준(metrics)에 대한 비판 -하나의 평가측정기준은 성능의 복잡함을 포착할 수 없음. -교차검증에서 다중 홀드아웃샘플에 기초하여 평가되지 않는 경우가 자주 있음. -어떤 도구가 하위그...
과학기술발전 2019.12.24 조회수 117
[오피니언] 인공지능 개발계획을 점검하기 위한 윤리위원회 구성
※ 기사. https://hbr.org/2019/11/create-an-ethics-committee-to-keep-your-ai-initiative-in-check?mod=djemAIPro 참고문헌: https://www.accenture.com/us-en/insights/software-platforms/building-data-ai-ethics-committees 인공지능을 이용하는 조직은 강력한 조직 전반의 가치가 책임지는 혁신을 조성하는데 역할을 해야 한다고 인식하기 시작함. 이는 평등에 대한 책임, 윤리적이고 인간적인 사용에 대한 책임이라는 두 가지 역할을 생성하는 것을 우선함. 윤리위원회는 조직의 가치에 기초한 의도를 유지하는 것뿐만 아니라 그들이 인공지능을 어떻게 이용하는지에 대한 투명성을 높이는데 도움을 줌. 이 구역을 선도하기 위하여 조직은 성장하기 위한 세 가지 영역에 초점을 맞춰야 함. ◆ 윤리 및 인공지능에 대한 거버넌스 구축 ◆ 공평함을 언제 어떻게 발생시키는지, 무슨 편향을 어떻게 설명할 것인지 ◆ 즉각...
과학기술발전 2019.11.25 조회수 233
[오피니언] 의학에서 인공지능은 법률적이고 윤리적인 우려를 불러일으킴
※ 기사. https://theconversation.com/artificial-intelligence-in-medicine-raises-legal-and-ethical-concerns-122504 의학에서 인공지능을 이용하는 것은 치료의 진보에 대한 엄청난 기대와 희망을 발생시킴. ☞ 우리가 컴퓨터 알고리즘에서 배운 7가지 : https://www.pewresearch.org/fact-tank/2019/02/13/7-things-weve-learned-about-computer-algorithms/ ☞ 기계학습, 유방 조기검진 MRI, 유방암환자의 항암치료 효과에 관한 저널 : https://www.ncbi.nlm.nih.gov/pubmed/30358693 그러나 의학에서 인공지능은 법률적이고 윤리적인 과제를 제기함. 프라이버시 침해, 차별, 정신적인 위해, 의사-환자관계 저하 등임. 필자는 정책결정자들이 유전자검사가 흔해질 때 그랬던 것처럼 인공지능과 관련된 많은 안전장치를 구축해야 한다고 주장함. ☞ 유전자검사가 예측적인 건강분석규정에 미친 영향에 관한 저널 : https:/...
과학기술발전 2019.09.11 조회수 363
자율주행차의 잠재적 위험 : 피부색이 어두운 보행자를 감지하지 못한다는 연구결과가 나옴
※ 기사. https://www.vox.com/future-perfect/2019/3/5/18251924/self-driving-car-racial-bias-study-autonomous-vehicle-dark-skin 참고문헌: https://arxiv.org/pdf/1902.11097.pdf 미국 조지아공대 연구에 따르면 자율주행차는 어두운 피부색을 가진 보행자를 감지하기 어려워 안전 문제 우려가 있음. 객체감지 기술의 훈련 데이터가 밝은 피부색에 치우쳐져 있어 어두운 피부색 감지 정확도가 낮아진 것으로 나타남. 인종적 편향 최소화를 위한 기술 발전이 필요하다는 경고가 나옴.
과학기술발전 2019.03.12 조회수 391
데이터 과학자가 왜 인공지능의 과학적인 발견을 항상 믿지는 말라고 경고하는가
※ 기사. https://www.sciencenews.org/article/data-scientist-warns-against-trusting-ai-scientific-discoveries 기계학습(machine learning)을 하는 인공지능 시스템에게 어떤 결정을 맡길 수 있음. 기계학습이란 명시적인 지침을 따르는 대신 데이터를 연구하여 무엇을 해야 하는지 학습하는 프로그램을 말함. 인공지능은 달의 분화구를 세거나 지진 후 여진을 예측하는 등 인간이 쉽게 작업을 확인할 수 있는 영역에서 내리는 결정은 믿을만함. 하지만 여러 특징 사이에 이전에 알려지지 않았던 패턴이나 관계를 확인하기 위하여 대규모 데이터세트를 뒤지는 많은 탐색적인 알고리즘은 검증하기가 매우 어려움. 이러한 자율적인 데이터 입증시스템에 대하여 판단하는 것은 잘못된 결론을 이끌어낼 수 있음.
과학기술발전 2019.02.28 조회수 136