인공지능이 환자진료를 향해 돌진함 – 그리고 위험성을 높임
많은 보건산업전문가들은 인공지능이 환자를 위험에 빠뜨리고 있고, 규제당국이 소비자의 안전을 지키기 위하여 충분한 조치를 취하지 않는다고 지적함.
벤처회사(Venrock)의 전문가(Bob Kocher)는 “의료정보에 인공지능을 사용하는 것의 위험과 의도하지 않은 결과를 계속 발견하게 될 것”이라고 말함.
☞ 관련 저널 : https://www.nature.com/articles/s41591-018-0300-7
Topol은 미국에서 판매되는 인공지능제품 중 무작위임상시험을 거친 것은 없다고 말함.
☞ 관련 저널 : https://www.ncbi.nlm.nih.gov/pubmed/30814121
한 저널에 따르면 동료검토를 거치는 저널에 연구결과를 게재하는 업체는 거의 없다고 함.
☞ 관련 저널 : https://onlinelibrary.wiley.com/doi/full/10.1111/eci.13072
인공지능기기의 대다수는 FDA 허가를 필요로 하지 않음.
국립의학원(National Academy of Medicine)은 최근 발간한 보고서에서 현재 이용하고 있는 32만개의 의료앱이 실제로 건강을 개선하는지에 대한 연구가 거의 없었다고 함.
☞ 관련 보고서 : https://nam.edu/wp-content/uploads/2019/12/AI-in-Health-Care-PREPUB-FINAL.pdf
2018년 한 연구에 따르면 일부 소프트웨어 개발자들은 FDA 승인이나 허가가 법적으로 의무더라도 이를 신청하려고 하지 않는다고 함.
◆ FDA의 인공지능기준 완화
FDA는 2017년부터 2018년까지 허가를 받은 14개의 제품 중 510(k)과정을 적용하여 11개 제품의 허가를 취소함.
☞ 관련 저널 : https://www.ncbi.nlm.nih.gov/pubmed/31755907
FDA는 디지털기기규제에 대하여 제품이 아닌, 업체 평가에 초점을 둠.
☞ 관련 자료 : https://www.fda.gov/media/106331/download
인공심장박동기와 같은 고위험제품은 FDA의 종합적인 평가를 받음. 하지만 국립보건연구센터(National Center for Health Research) 센터장(Diana Zuckerman)은 중위험, 심지어 저위험 기기조차 중대한 위험 때문에 회수되었다고 밝힘.
☞ 관련 저널 : https://www.ncbi.nlm.nih.gov/pmc/articles/PMC5594275/
◆ 좋은 알고리즘이 나빠지는 경우
일부 인공지능기기는 다른 기기보다 더 주의 깊게 검증을 받음. 대표사례가 당뇨성 안구질환을 선별하는 도구(IDx-DR)임.
☞ 관련 해외언론동향 : http://www.nibp.kr/xe/news2/116989
그러나 진료를 개선하기 위한 인공지능 기반 혁신의 일부는 반대 효과를 나타냄.
☞ 관련 해외언론동향 : http://www.nibp.kr/xe/news2/149237
한 매체(Kaiser Health News)의 조사결과 환자의 약물목록, 검사, 알러지에서 생명을 위협하는 오류가 발견되기도 함.