人工智能偏见可能会损害放射科医生对乳房 X 线照片的准确性

来源:
导读 根据发表在放射学杂志上的一项新研究,基于人工智能的决策支持系统的错误建议可能会严重损害放射科医生在阅读乳房 X 线照片时各个专业水...

根据发表在放射学杂志上的一项新研究,基于人工智能的决策支持系统的错误建议可能会严重损害放射科医生在阅读乳房 X 线照片时各个专业水平的表现。

基于 AI 的乳房 X 线照相支持系统通常被吹捧为放射科医生的“第二只眼睛” ,是 AI 在放射学中最有前途的应用之一。随着技术的发展,有人担心它可能会使放射科医生容易受到自动化偏见的影响——人类倾向于支持来自自动化决策系统的建议。

多项研究表明,将计算机辅助检测引入乳腺 X 光检查工作流程可能会影响放射科医生的表现。然而,还没有研究研究基于人工智能的系统对放射科医生准确读取乳房 X 线照片的性能的影响。

来自德国和荷兰机构的研究人员着手确定自动化偏见如何影响不同经验水平的放射科医生在阅读人工智能系统辅助的乳房 X 光照片时。

在前瞻性实验中,27 名放射科医生阅读了 50 张乳房 X 线照片。然后,他们提供了由人工智能系统辅助的乳腺成像报告和数据系统 (BI-RADS) 评估。BI-RADS 是放射科医生用来描述和分类乳腺成像结果的标准系统。虽然 BI-RADS 分类不是诊断,但它对于帮助医生确定下一步的护理至关重要。

研究人员以两组随机方式展示了乳房 X 线照片。第一个是 10 个训练集,其中 AI 建议正确的 BI-RADS 类别。第二组包含不正确的 BI-RADS 类别,据称是 AI 在 40 张乳房 X 线照片中的 12 张中建议的。

结果表明,放射科医生在为所谓的 AI 提出不正确的 BI-RADS 类别的病例分配正确的 BI-RADS 分数方面明显更差。例如,在人工智能建议正确的 BI-RADS 类别的近 80% 的案例中,没有经验的放射科医生分配了正确的 BI-RADS 分数。

当所谓的 AI 建议错误的类别时,它们的准确率下降到不到 20%。经验丰富的放射科医生——平均拥有超过 15 年经验的人——发现当所谓的 AI 提出错误类别时,他们的准确率从 82% 下降到 45.5%。

标签:

免责声明:本文由用户上传,如有侵权请联系删除!