人工智能可以帮助减少医疗护理的差异吗？

点击这里阅读封面故事，“大流行促使人工智能的范式转变。“

需要精确可靠的工具来消除偏见

任何关于工具效用的问题最好通过尝试来回答。

尝试该工具，将其与其他工具进行比较，更改设计以改进它。人们确实可以用岩石，手枪或锄头驾驶钉子，但不应该花很长时间弄清楚一把锤子，棍子上的金属斑点，更适合驾驶指甲。

计算机和软件都是工具。像其他工具一样，它们也在进化，而这种进化受到社会、经济、政治和法律的影响。有时甚至伦理道德也起了作用。我们反复看到一些有趣的事情:人类有一种可悲的、破坏性的倾向，在没有充分理由的情况下偏心。我们已经认识到，我们普遍存在的不偏不倚已经腐化了社会、经济、政治和法律。相反，我们现在知道，为了改善社会、经济、政治和法律，我们需要让它们变得公正。民主就是试图做这样一件事。

我们还认识到——唉，我们花了几千年的时间——争取公平、正义和公正是相当困难的，部分原因是不公平、不公正和不公正经常被煮进我们试图改变的系统中。在很多情况下，人们发现机器学习算法包含了对少数族裔、女性和其他人的偏见。关于人工智能偏见的辩论，预计了我们最近迅速、广泛地认识到，卫生系统也对少数族裔有偏见，我们的社会本身是不公正的。

就像设计或制造糟糕的锤子很容易弯曲钉子或犯错一样，有偏见的人工智能训练集和算法也很容易犯错。这些工具没有什么是不能改变和改进的。就我们的目的而言，我们不仅需要让我们的人工智能工具更加准确和可靠，我们必须也能够确保这些质量标准适用于所有人。眼科医生在其他专业中领先，他们在人工智能的诊断用途方面发现了令人兴奋的发现，也同样发现了它的缺点。因此，视觉专家有机会继续发挥领导作用，改进人工智能系统、数据库和软件，并确保消除偏见本身就是改进的标志。

医生长期以来，他们必须了解他们的工具如何工作，以便有效地使用它们。如果可以学习光学器件，可以学习足够的软件工程，看看计算机程序是否是透明的，清晰的注释和记录，并适合目的。缺席，可以要求AI系统供应商解释他们的产品，并保证它们是安全，有效的，因此无偏见。

在锤子上添加爪不仅改善了工具，也改善了我们的隐喻。现在，锤子不仅可以用来钉钉子，还可以很容易地把弯曲或弯曲的钉子拔出来。

Kenneth W. Goodman，Phd，Facmi，Face，他是迈阿密大学米勒医学院生物伦理和健康政策研究所的创始人和主任。

偏见难以检测，难以减轻

技术改变了工作的内容和方法。

可以使技术改变了我们的更广泛的声明。我们生活的方式，我们认为的方式，我们互动的方式。要清楚，这大部分都是好的，但它落在这里来翻身并指出赤字，并且在人工智能之后，探索未来的风险：我们现在的价值是什么可能会失败，我们在现在贬值，但在一些模糊的方式中，我们冒险进入我们的技术未来。

在人类方面，技术有潜在的桌面。您是否知道没有求助于计算器无法进行简单算术的人？对于眼科医生和眼科技术人员，图像处理软件的能力识别专家眼睛看不见的特征，提出了这个问题：这应该如何欢迎？答案必须显而易见：为什么，作为眼科医生或验光师，我不会欢迎一个帮助我更准确地看到的设备吗？在众所周知的实验中，将低强度随机噪声添加到图像中;对人眼，图像及其总特征看起来相同，但噪音导致了错误的机器解释。涉及责任时，是携带负担的医生。还在舒适吗？

现代人工智能通常基于“机器学习”。软件在观察数据集上进行“训练”，然后在其他独立数据集上进行测试。如几项研究所示，如果数据中存在偏差，该偏差可能会进入算法并被编码。例如，根据世卫组织的报告，如果妇女被转诊做白内障手术的频率较低，该算法可能将其解释为妇女不太需要做白内障手术，或在转诊之前必须达到较高的阈值。在种族方面，偏见已经在临床指南中被证明存在，例如，在所谓的“种族纠正”的使用中。无论人工智能系统是基于专家意见构建的，还是通过从观察实例中进行的机器学习构建的，引入这种偏见的危险是显而易见的:它既难以检测，也难以减轻。

我的结论令人担忧是关于人类自治。从这个地区的最早工作来看，那些寻求创造人工智能的人急于警告我们，人类在比我们变得更加智能的时候妨碍机器的方式是徒劳的。让我们考虑自治并提出问题，聪明意味着什么？它仅仅是在某些地区具有非凡技能的问题，让我们说，先进的数学或眼科手术，或者它也包括了解陌生人的困境或爱他人的能力吗？作为治疗师，也许医生会发现比大多数人更容易理解和回应这个问题。

Anthony Solomonides，Phd，Famia，是计划总监，结果研究和生物医学信息学，伊利诺伊州埃文斯顿埃文斯顿