无论是加速实验室的研究，还是增强临床医生的决策，人工智能(AI)在改变医疗保健方面似乎有着无限的潜力。
随着最近的推出生物医学信息系在科罗拉多大学医学院,加州大学安舒茨医学院是综合计算技术和人工智能的前沿。该部门培养下一代生物学和临床信息学家，支持CU Anschutz在研究，临床护理和其他信息学领域的举措。
 人工智能可能很难识别图像中的差异，包括能够区分吉娃娃和蓝莓松饼。 |
凯西格林他是该系的创始主席，生物医学信息学教授，国家计算生物学和人工智能专家。在这一集CU Anschutz 360， Greene讨论了围绕人工智能的伦理问题，生物库和个性化医疗的兴起，利用技术改善患者护理，对人工智能在医疗保健中的有效性的普遍怀疑，以及吉娃娃和蓝莓松饼之间独特的人工智能相关联系。
关于ChatGPT的讨论
他还谈到了围绕ChatGPT和大型语言模型的讨论。“我认为我们会看到这些模型的很多新用途，”格林说。“你可以对它进行微调，使其在某些环境下更有效地工作，无论是医疗保健环境，还是考虑电子笔记，所有这些元素都提供了调整的机会。”
共同主持讨论托马斯FlaigAnschutz研究副校长，以及通信办公室数字故事主任Chris Casey。
收听播客:
播客记录:
克里斯·凯西:凯西，很高兴你今天能来。这是我们今天要讨论的一个非常广泛的话题，医疗保健中的人工智能。你被描述为计算生物学家。你能描述一下这意味着什么吗?你的研究重点是什么?
凯西格林:是的。所以，在我们的实验室里，我们使用计算机科学的工具来研究生物学。这在许多不同的领域都有应用。所以我们研究癌症，研究传染病。但在一天结束的时候，它又回到了使用计算机科学的工具来研究生物学。
托马斯•Flaig:当你和普通观众交谈时，你在街上遇到的一些人，你会如何概括人工智能的含义，也许广义地定义它?
凯西格林:几年前，我会给你们一个更精确的定义。但我认为它已经进入了流行的对话，在这一点上，我认为它是一种算法，根据它们被提供的数据以不同的方式做出反应。如果你是一名计算机科学家，你会发现这是一个过于宽泛的定义，但由于这些类型的方法被迅速吸收，我认为对我来说，这是一个适用于目前的定义。
托马斯•Flaig:你的答案中隐含的是算法。这是一种理解数据和数据集及其差异的数学计算方法，对吧?
凯西格林:是的。这很有趣。当我接受培训的时候，当我们考虑算法的时候，我们考虑的是大部分由人类定义的算法，一个规则集，或者，如果X，那么y。所有的东西最终还是以同样的方式编码，但现在不是有那么多人类定义的规则，我们通常设置这些东西来从数据中学习，然后根据输入数据做出预测或选择行动。
托马斯•Flaig:也许我可以在我们开始的时候偷偷提一个高水平的问题。假设有个病人坐在诊所里。我可以去诊所，我每周都去，这是我职业生涯中不可分割的一部分，我从病人的角度考虑问题。如果他们现在在诊所和他们的医生交谈，我是否应该认为人工智能在未来将成为他们护理的一部分，可能现在正在发生和出现的事情，或者它实际上已经发生了一段时间，只是我们真的没有承认它或这样称呼它?
凯西格林:是的，我认为这将是三者的结合。这种数据驱动的决策在循环中包含了更多的计算，我认为这种情况已经发生了一段时间。在识别潜在因素并进行临床试验的方法方面，这些人工智能和机器学习方法已经被广泛使用了很多年。
另一方面，我们也看到了这些系统所能做的相当重大的转变。如果你想象现在有人和他们的提供者坐在一起，我想希望未来的对话是不同的。希望它们更好，希望它们更个人化。因为目前需要人类来做的事情，希望我们可以将其中一些任务自动化，让提供者专注于他们真正擅长的事情，与患者联系，并了解在接触后输入的数据中不会出现的内容。
克里斯·凯西:说到一个具体的场景，也许是在诊所，也许是一个人工智能可以与病人护理交叉的领域，我会用一个大家都熟悉的例子，比如放射学。你进去照x光，你的腿骨折了。据推测，人工智能可能有助于更快地诊断。你有没有什么例子，比如说，在放射学环境中，人工智能或其他技术进步可以帮助临床医生在x光片中更好地看到他们以前看不到的东西，从而为病人带来更好的结果?
凯西格林:我认为重要的是要认识到这些系统检查这类数据的方式与人类不同。所以如果你用人类和人类的推理来类比人工智能在放射学中的工作方式，这是一个不正确的类比。所以我不认为用这种方式思考问题有什么帮助。这有好也有坏。从积极的方面来看，这意味着这些算法可以关注医生可能不会注意到的事情，放射科医生可能不会注意到的事情。有时我们会说误差模式可以是正交的，这本质上意味着它们可以犯不同的错误。这实际上是有价值的，因为如果有分歧，你就可以花更多的时间和精力来解决问题。
人工智能在放射学领域，我的希望或期望是，随着这些系统的部署，提供者可以专注于最具挑战性的病例．因为这些方法的一个困难之处是很少的例子。在算法训练过的数据中，一些极其罕见的事情发生，它不太可能成功。我们常说这些算法需要大量的训练数据，所以它们需要大量的例子。另一方面，人类非常擅长推断。能够让人们在他们擅长的领域做出贡献，同时还能得到工具的支持，使常规诊断更容易，我认为这是一个真正有潜力的领域。
托马斯Flaig：所以，在医学中，提供者会犯错误。我们对人类犯的错误和人工智能犯的错误有不同的感觉吗?我们只是从根本上感觉不同了吗?你对这个概念有什么看法?
凯西格林:我不知道。这涉及到自动驾驶汽车的话题。有一种信念或期望，那就是表现得超人才能让我们感到满意。实际上，这是一个话题，在这里的生物伦理和人文中心的人，像马特·迪坎普和其他人，当然应该权衡一下。对我来说，我觉得这是对的。它的表现应该是超人的，它应该导致更低的整体错误率和更好的整体护理。我认为这很重要。我确实认为，建立一个不会取代人类，但能够非常有意识地思考这些系统如何增强人类决策的系统，对我来说，我认为这是一个更好的地方。
托马斯Flaig：是的，真的很有趣。自动驾驶汽车是我一直在考虑的事情之一。所以你可以想象，你可以把它比作阅读放射扫描和其他东西。但如果你将自动驾驶汽车的事故数量减少50%，你仍然会遇到人工智能发生的事故。我想我们会有不同的感觉，尽管我不会……你不用再讲了。我觉得你说的也很有道理。所以，再一次，把它想象成一个诊所里的医生，有一些更常规的事情，决定，分析。例如，如果一个非常简单的人工智能如果实验室不正常，你会在旁边得到一个小标记。你可能要回答一个非常简单的问题，让我作为一个提供者去看它。 So you can imagine this technology driving that and augmenting versus taking over certain decisions. I suppose that's one of these balance things again.
凯西格林：是的，我认为在医疗保健中使用这种类型的最好结果将是，让我们想象一下，现在的实验室值超出了范围。但你可能更想知道的是，“哇，对这个人来说，这个值特别不寻常。”也许是在范围内，但对那个人来说，可能超出了他们的正常范围。所以这可能是你需要注意的，即使这是在人群的正常范围内。反之亦然，有些事情超出了某些人的能力范围，但是在你期望的情况下，我们能否在正确的时间为你提供正确的信息，避免无关的信息，这样你作为提供者就可以真正专注于你的病人，专注于倾听你的病人，专注于从这些谈话中获得其他任何方式都无法获得的东西。
托马斯Flaig：这很有趣，因为我仍然记得，作为一名实习生，作为一名医科学生，我很早就来到医院去做射线扫描，去拍电影，就像我们过去说的那样，然后到处乱晃。现在，一切都是自动化的。我记得，实际上我写了临床记录，在我们现在的地方很难读懂。所以这只是建立在那个基础上，当然，我还没那么老。所以也许你的观点是，你可以想象一个实验室不正常，当这种情况发生时我该怎么办?我画出最近20个实验结果，然后我说，“哦，这对这个人来说没有异常。它实际上比以前有所改善。”但这种技术水平，是我必须做的事情，并决定我将花时间点击和查看哪一个。所以人工智能实际上可以有一个不同的列作为这个病人的异常。
凯西格林：是的,没错。
克里斯·凯西：我很好奇皮尤研究中心(Pew research Center)最近关于人工智能和医疗保健的一项调查，以及美国人在将人工智能整合到他们的医生护理中是否感到舒服。该调查显示，60%的美国人会对依赖人工智能诊断疾病或推荐治疗方案的医疗服务提供者感到不舒服。只有38%的人认为人工智能诊断疾病或推荐治疗方法会带来更好的结果。所以这些人似乎在犹豫要不要接受它。所以我很好奇你对这些统计数据有什么看法以及你认为如何逐步改进。
凯西格林:在技术领域，可以强调快速移动和打破旧事物。当你在处理医疗保健问题时，快速行动和打破常规并不是一个合适的策略。如果我们看一下首次亮相，让我们回到自动驾驶汽车。当我们看到自动驾驶汽车的推出时，我们犯了不少错误。事实上，这类错误的例子似乎还在继续，汽车会犯人类不会犯的错误。这是一种展示，当一项技术领先于道德部署的对话时，会发生什么。我认为这是非常重要的，正如我们在这里谈论的，我们在谈论的……我们不是在讨论一个算法做决定。我们讨论的是一种算法，它为提供者提供支持来做出决策。我认为理解其中的细微差别是非常重要的，这也是为什么这里的团体，比如生物伦理和人文中心如此重要，所以我们可以理解我们需要如何思考负责任的部署。
托马斯Flaig：我认为这个问题的一部分是，在这里接受调查的人实际上会如何定义人工智能的理解。因为回到我们之前的评论，它可能与一些已经发生的事情结合在一起，而这些事情可能在我们的意识水平之下。
凯西格林：是的，我的意思是，如果你问我是否想去人工智能诊所，我只是出现在那里，一些计算机告诉我结果是什么，我会说绝对不想。对吧?我想要那种人与人之间的联系。你想要见你的医生，你想要那种联系因为我认为治疗不仅仅是诊断。重要的是你的经历。如果你有更好的体验，你可能会有更好的结果。这不仅仅是诊断。
托马斯Flaig：当你看看各个行业，如果你想到汽车，可能是研究和开发，人工智能在这个应用中，所以汽车，可能是在这个领域的前端，医疗保健不会在这个领域的前端，我不这么认为。我不知道你是否同意，如果同意，为什么?
凯西格林：我同意这一点。我不认为医疗保健会在前端。我们在医疗保健方面有一个相当广泛的监管程序，这是合适的。我的意思是，它以很多不同的方式影响着人们的生活，所以谨慎对待事情是合适的，要考虑到其中的伦理问题。就像我说的，这不是一个快速行动和打破常规的环境。我也不完全确定汽车是否是一种快速移动和破坏事物的环境。如果你想想这种技术真正发展起来的地方，通常是像广告这样的地方，那里可能存在不同的监管环境。我不会把医疗保健放在首位，但那是在实施方面。
在研究方面，就像我们之前简要提到的关于人工智能如何在某些情况下胜过放射科医生的研究，尽管这些研究有一些注意事项，所以我们可以回头看看。我认为在这种类型的研究环境中，我们应该尽可能快速和合乎道德地进行研究，因为我们需要建立工具包。但是，决定在哪里部署这个工具包，对我来说，这就变成了一个道德问题，这就是我认为我们应该更加谨慎的地方。
克里斯·凯西：把话题更直接地转向我们的校园，你能举几个例子吗，凯西，在应对医疗保健问题方面，CU安舒茨医学校区可能有点领先——在那里可以集成人工智能或计算生物学，我们作为一个校园在这方面有什么优势?
凯西格林：我认为我们应该认识到的一个领域是跨越了遗传学和信息学的界限并用它来指导护理。所以，我们这里有一个叫做科罗拉多个性化医疗中心(CCPM)的机构。这是七八年前开始的。这真是非凡的远见。该中心的目标是利用遗传学来改善医疗服务。所以这是一个例子，试图在正确的时间把正确的信息交给正确的人来做出正确的决定。因此，目前的结构方式是有一个生物银行研究。因此，在uchealhealth就诊的个人可以决定是否同意参加。如果他们同意在下次抽血时参与，一部分单独的血液就会被送到我们的生物样本库里。
在生物库可以进行基因分型。然后在此基础上，结果可以返回到电子健康记录中，例如，如果提供者要开一种可能对这些人有不同作用的药物，提供者可以收到警告，建议“哦，你可能想要选择一种不同的药物，或者你可能需要调整剂量以获得预期的效果。”所以这是一个关于如何在道德上做这件事有很多计划和远见的案例。它通过了所有适当的机构批准。有很多关于部署的想法，以及如何使用它来改善护理，这真的是人员和信息技术的协调管道，使它成为可能。
托马斯Flaig：这项努力的一个迷人之处在于它与电子健康记录的整合。你所描述的是常规抽血，在患者同意了解过程后，对提供者来说…我认为，在多个不同的领域，整个医疗团队的医生、护士已经负担过重。你认为这可以在某种程度上减轻医疗工作者的负担，并在这方面帮助支持劳动力吗?
凯西格林：是的，我是说，非常强烈。如果有人被开了一种药物，而不同的剂量或不同的药物对他们个人来说会有更多的好处，那么在正确的时间给他们正确的药物是一种帮助他们的方法。他们会有更成功的结果，这也减轻了提供者的负担，因为否则你就必须理解为什么药物不起作用。也许你不得不事后去做一个基因测试，以了解为什么它不起作用。我认为，事先知道这些，就可以为病人避免很多不必要的挑战，这就是我所认为的改善他们的护理旅程，但也可以为他们的护理团队避免很多不必要的工作。
托马斯Flaig：甚至在这个例子之外，我不知道你是否认为总的来说，人工智能可以……因为我认为我们很多人现在都在关注医疗保健劳动力。这种方法可以通过EMR更广泛地应用实际上是试图帮助支持一个变得非常复杂的工作环境。
凯西格林:我不想离题太远，但一些已经发生的工作，比如欢乐计划，它专注于护士面临的负担以及如何减轻这些负担，这是一个uchealhealth的努力，我认为使用这些类型的工具不仅可以改善患者的结果，还可以改善护理团队的环境。我认为这两件事是相互关联的。如果你想提供最好的医疗服务，你真的需要那些不会因为可以简化的事情而负担过重的人。
克里斯·凯西：有趣的是，我们正在谈论医疗保健专业人员负担过重，我想到了一个例子，急诊室的每一个决定都必须非常紧急、非常迅速地做出，这些人显然是根据电子健康记录上可用的任何信息进行操作。有没有办法，在这种情况下，当时间是至关重要的，就像急诊室医生可以从某种算法中受益通过电子健康记录，可以帮助他们确定更准确的诊断或什么的?
凯西格林：是的，我不想离题太远谈论别人的创新，但是我认为虚拟健康中心是uchealhealth构建的一个非常棒的资源。这让他们做了什么…林CT和其他人做了一个很好的工作，研究如何使用败血症模型，这些模型可以预测病人的快速恶化。这些模型的一个挑战是它们可能会有噪声。我的意思是，你不想错过一个人的快速恶化，但如果你把这个告诉他们在前线的护理团队，它会产生一堆额外的信息，其中一些需要采取行动。因此，uchealhealth组合起来的一个非常神奇的东西就是这个虚拟护理中心。
虚拟护理中心的提供者可以接收这些警报，并将其整合，然后让与患者互动的团队了解何时需要采取行动。这些算法的一个挑战是你必须调整你愿意错过多少，你愿意错过多少糟糕的结果，以减少过度警觉和思考的噪音，从周围的整体情况来看，如果我们有这额外的一层人参与，我们能得到一个更敏感，更准确的算法吗?对我来说，这种平衡太棒了，对吧?因为你可以比其他地方的人更早地获得技术的好处。这些投资将会更早地得到回报，而且你不会让你的医疗工作者负担过重。
托马斯Flaig：稍微换个角度，想想研究提供的信息，比如医疗保健等等。所以我们想到临床研究，随机临床试验是我们发现新药，改进新药，了解新技术，诊断等的方法。它们的强大之处在于它们是如此的严格，并且有特定的程序和协议围绕着它们。缺点是它们仍然受到严格的限制，周围有太多的程序。还有，谁参与了试验被研究的病人，代表了更广泛的人群吗?我认为，这一点在新冠疫情期间得到了突出体现——在那里做了一些工作。人工智能如何帮助我们利用现有的数据，未来的数据，以确保它在性别，种族，其他民族群体中都有代表性?
凯西格林：是的，我是说，我认为这是一个非常重要的挑战。这在人工智能领域也是一个挑战，因为如果你的训练数据不具有代表性，你的预测模型就不会对每个人都以同样的方式工作。这是国家卫生研究院非常感兴趣的一个领域。所以他们开始了，大概是几年前的事了，他们开始呼吁一个叫做“桥到人工智能”的新项目，这个项目旨在为下一代算法生成基本的医疗保健数据。他们在公平问题上花了很多心思，如何处理代表性问题，以及我们如何才能真正建立反映我们国家多样性的数据。所以我认为这是一个非常令人兴奋的项目。现在正在进行中。事实上，有一个与之相关的协调中心，其中两个中心的负责人是我们生物医学信息系的教师。
所以我们有很多经验来理解这个正在进行的项目。我认为这种努力将是非常重要的，以确保我们确实有基准代表性的数据。然后我认为关键是我们能否使用这些类型的算法来理解在常用的数据中缺失了什么?生物医学信息系的另一位教员最近用机器学习和人工智能方法做了一些工作，提供了关于基因组样本的结构化信息，这些样本已经被公开分享，试图解释它们来自什么组织，以及它们的其他特征，这样我们就能了解缺失了什么。我们忽视了什么?因为如果我们不知道我们错过了什么，我们将很难建立起有效的算法。
托马斯Flaig：我很高兴你提到了这个新部门以及你对这个部门的领导。我认为这对我们的校园来说是一个令人兴奋的发展。我想这是很多很多年以来，医学院的第一个新院系。你想谈谈这个系吗，它是如何成长起来的，以及它在整个学术领域有多独特?
凯西格林：是的，所以我认为我们是继急诊医学之后的第一个新系(在CU医学院)。我们是一个由研究人员、医生和教育工作者组成的部门，专注于发展和部署促进研究和护理的伦理技术。这意味着我们在NIH的“人工智能之桥”协调中心有领导。Moni Munoz-Torres和Anne Thessen，他们思考如何将数据和社区以结构化的方式放在一起来解决这类关键问题。
我刚才提到的另一位教员，Arjun Krishnan，最近加入了我们，他的工作是使用机器学习和人工智能来注释本质上缺失的元数据，关于数据的数据。存在的数据，我们需要使用这些数据来了解我们的差距在哪里，但没有人花时间写下来。所以他正在开发一种自动的方法，可以回到数据本身，并帮助记录下来。因此，这些都是很好的例子，说明我们如何找到那些正在建立必要技术类型的人，以及如何建立必要的社区类型，以解决人工智能在医学中最困难的问题。
托马斯Flaig：全国有很多这样的部门吗?
凯西格林：如果你环顾四周，我们不是第一个创建生物医学信息系的机构。如果我们是最后一个创建生物医学信息系的机构，我会感到震惊，我们可能是最近一个创建生物医学信息系的机构。随着数据在研究和护理中变得越来越重要，我认为这些部门正在增长，甚至在没有部门的地方，对这些部门的投资也在全国范围内增长。另一方面，我认为我们系和我们的校园在某些方面是独一无二的。有几件事真的吸引了我到加州大学，以及为什么我认为我们可以在这里建立一些不同于其他地方的东西。首先，在学术界有时会关注学术成果，即同行评议的论文。这些事情很重要，但它们只是达到目的的一种手段。最终是改进的研究，新的发现，新的疗法或改进的护理，更好的护理途径，可以减少这种负担，并导致更好的护理。我认为这些都是实实在在的现实结果。
当我研究，这将变得非常深奥，在加州大学的晋升和终身教职的指导方针时，我在这里认识到，我在其他地方没有看到产生有意义的积极变化的重要性。这意味着，当我们创建一个新的部门时，我们可以为这个部门编写晋升和终身教职的指导方针，这些方针完全符合学校、校园和大学系统的指导方针，这些指导方针认可现实世界的产品。在全世界范围内使用的软件，可以提供有效的，重要的，实际的影响。
所以我们能够关注我们如何看待教师的贡献以及我们如何看待研究人员和教师的贡献。我觉得我们并不受制于一个有200年历史的评估体系。对我来说，是的，你可以说在过去的10年里已经有了生物医学信息学的部门，在未来的10年里还会有生物医学信息学的部门。但我认为，我们有潜力创造一个独一无二的世界，因为这里有一种开放的心态，可以改变世界，这不是其他地方都有的。
托马斯Flaig：是啊，听起来真让人耳目一新。谢谢。
克里斯·凯西：凯西，这对你来说不是新闻，但ChatGPT在新闻中得到了很多关注，这是机器学习的另一个领域，人工智能。如何更好地理解ChatGPT的发展?考虑到我们在这里讨论的医疗保健这个更广泛的话题?
凯西格林：ChatGPT是一些东西放在一起。一个是大型语言模型。让我们假设你愿意花费大量的电脑时间来理解常规文本。它本质上是在训练这些类型的模型，本质上是语言的表示。但是计算起来非常复杂，我们可以这么说。在过去的十年里，这些都在迅速发展;真的，在过去的五年左右时间里，我们取得了很大的进步。ChatGPT是一个大型的语言模型，但它与一些关键的东西结合在一起，一组使它有用的提示和使它真正可访问的软件。这又回到了什么才是重要的?现实世界的影响是什么? The real-world impact of a large language model is up for debate, but then when you pair that with effective software and this sort of starting point for people to really access it and use it, all of the sudden the impact is magnified many, manyfold.
所以你从这种深奥的学术话题变成了有用的东西。我的意思是，在一周的时间里看这个展示是非常了不起的。突然之间，这种能力已经不像以前那样存在了，但已经非常接近了。在一个星期内，人们对它一无所知，突然之间，它将改变世界。感觉就像一个状态开关被翻转了。我认为重要的是要认识到状态转换不仅仅是一个部分，它是这些部分组合在一起的。我认为这就是为什么关注对现实世界的影响如此重要的原因，因为这样你就会让人们不仅思考如何推进研究，而且思考如何以一种具有切实影响的方式推进研究?
托马斯Flaig：有一件事我不明白，这是类似于这项技术的早期版本，还是一个后期模型，我们在未来几年内不会看到很多发展?
凯西格林：就大型语言模型而言，这不是V1，这是一个相对高级的语言模型。另一方面，我认为我们将看到这些模型的许多新用途，这些用途将指导我们如何以一种可能反馈并改进模型的方式处理这类问题。因此，您可以采用一个通用的大型语言模型，并在使用ChatGPT时使用它，但也可以对其进行调优。您可以对其进行微调，以便在某些设置中更有效地工作，无论该设置是医疗保健，还是考虑电子笔记，所有这些元素都提供了调整的机会。所以我认为你们将会看到的是…我的意思是，您将继续看到大型语言模型的发展。我认为在这方面仍有进步，但你也会看到对如何部署和使用它们的更多强调。
克里斯·凯西:换个角度，当我回想几十年前，也许90年代最大的科学进步是多利羊，对吧?遗传学，克隆技术90年代的巨大成就。我想知道，当我们进入21世纪的第三个十年时，凯西，你是否设想过，通过生物医学信息学实现多利羊的突破性科学进步?或者你认为这个十年的决定性的科学突破会落在哪里?
凯西格林：在这十年里，很难有人反对像RNA疫苗这样的重大进步。所以也许生物化学，我要把多莉羊推回去当研究的主要突破。我认为更广泛地说，遗传学领域，我同意遗传学是一个关键。很多遗传学研究的投资回报正在发生。CCPM正在做的工作是遗传学指导大规模护理，这需要很长时间。所以我认为不仅仅是这十年，而是之前的十年，我认为已经发生了很多工作，为这些类型的信息技术在未来的变革奠定了基础。
实际上，我认为通常很难指出一个特定的进步。如果你想拿ChatGPT和Dolly做个类比，Dolly把这种正在发生的工作以一种我认为以前从未有过的方式放在公众意识中。我认为ChatGPT做到了这一点。
托马斯Flaig：我认为，我们今天以积极的方式谈论了一个广泛的话题。在某种程度上，我们可以看到这样做带来的好处，我认为这是非常明显的。当我们思考这个问题的时候，你在这个领域的专家身上看到了什么警示故事或警告吗?
凯西格林：现在有一个经典的例子……当我说经典时，我指的是不到10年的历史。但有一个经典的例子是，人工智能很难区分吉娃娃和蓝莓松饼。如果你观察这些算法的误差模式，这是关键。他们的工作方式不同于……在某些方面，它们与人类的视觉感知非常相似。如果你看着吉娃娃，又看着蓝莓松饼……我意识到这只是音频，所以我不能展示幻灯片。但是有吉娃娃的图片还有蓝莓松饼的图片上面有三颗蓝莓，还有两只眼睛和一个鼻子，即使是人类也不容易分辨。但人类对此的想法却不同。
如果我告诉你，我需要你告诉我这是吉娃娃还是蓝莓松饼，你要看那些额外的定义特征。这些算法的工作方式不同。所以，我认为这就…你问的是，在实际应用中是否有这样的例子?我认为吉娃娃蓝莓松饼的例子，如果你决定吃什么早餐，会有非常不同的含义。我认为……对不起。
克里斯·凯西：这是一个真实的陈述。
凯西格林：这是对的，非常正确的说法，特别是如果你家里有一只小狗。其中一件事是，在放射科图像工作的人，特别是，有一群计算机科学的人进入了这个领域，他们写了一堆关于人工智能将如何取代放射科医生的论文。另一个在这个领域工作的人看到这个说，好吧，这有点不寻常。这是如何工作的?并开始研究为什么这些人工智能系统会做出他们所做的预测。在很多情况下，这些预测是由一些本应该与图像无关的东西做出的。如果你想预测一个病人的不良预后，其中一个预测因素，这是预测肺炎，是“便携出现”这个词。所以它学会了寻找便携式作为肺炎的指标，但它也是一个不能去扫描仪的人的指标。
吉娃娃蓝莓松饼有点轻率，但我们需要理解这些算法为什么有效，为什么无效以及失败模式是什么。如果我们只是部署它们，我认为我们必须愿意接受这些类型的错误，我认为我们应该也不会那么接受这些类型的错误。也许这可以追溯到你之前的皮尤民意调查。这可能是人们想象的系统类型，我可以理解为什么60%的美国人会对此感到不舒服。我会觉得不舒服。
克里斯·凯西：我认为我们已经讨论了很多问题。我们已经学习了算法，人工智能，计算生物学，生物医学信息学。令人兴奋的是，我们在加州大学安舒茨医学院的校园，以及你的领导，凯西，以及新的生物医学信息学部门，都处于这方面的前沿。非常感谢你们的时间。这是一次非常愉快的讨论，我们对此表示感谢。
托马斯Flaig：大讨论。
凯西格林：谢谢。这真是太好了。
2023年3月22日