神经网络的局限性

2022-09-17 19:00:3311:16 131

声音简介

神经网络的局限性

虽然神经网络可以给出一个问题的正确答案,但目前还没有办法解释它们是如何得到这个答案的。例如,假设一名感到胸部刺痛的女性患者来到急诊室。这是心肌梗死的一种症状,需要立即进行干预还是仅仅是由一种严重的消化不良引起的呢?训练有素的神经网络可
能会比医生做出更准确的诊断,但如果不清楚网络为何做出这样的决定,我们就有理由不信任它。医生和算法一样,也要接受一系列测试和决策点的指导,通过常规案例进行培训。但问题在于,有些罕见的情况并不在他们算法覆盖的范围之内,而神经网络则经历过更多案例
的训练,远远超过一般医生在一生中会经历的,网络可能会很好地描捉到这些军见病例。但是,你会相信无法解释其理由,但从统计上来说诊断能力更强的神经网络,而不去相信看似有凭有据的医生吗?事实上,那些能够精确诊断罕见病例的医生都有着丰富的经验,并且大多数使用了模式识别而不是算法。3对于各个领域的最高级别专家来说,情况可能都是如此。
正如可以训练网络来提供专业的诊断,是否有可能把其背后的解释作为训练集的一部分,来训练网络对其行为进行解释呢?这样一来也许还可以帮助改善诊断。这一建议是存在问题的,原因是医生给出的许多解释都是片面的、过度简化的,或错误的。每一代医疗实践与
前一代相比都发生了巨大的变化,因为人体的复杂性大大超出了我们目前的理解能力。如果我们可以通过分析网络模型的内部状态来提取因果解释,就可能会产生能够推动医学发展的新的见解和假设。
神经网络是一个黑盒子,其理论尚无法被理解,这个陈述对大脑也成立。
……
20191017