数字病理学是病理学中的一个子领域,它考虑了图像采集、管理、分发、注释和计算机辅助分析的过程。数字病理学正在迅速发展,并已经创建了一个高度活跃的学术和行业生态系统1.将大规模病理数据数字化并快速传播和分析这些数据的能力对于研究、临床试验、远程医疗、下游图像分析和整体患者护理来说是变革性的2.在这场革命的核心,高通量扫描显微镜提供了“原油”,最终推动了这场数字化转型。其中一些扫描显微镜及其数字图像已获监管机构批准,供病理学家在其主要诊断临床工作流程中使用3.

不可否认,组织病理学中的下一次机器学习(ML)革命将由大规模注释数据库推动。然而,最大的罪魁祸首之一是目前数字病理扫描仪的速度和吞吐量4.扫描每张组织学切片(例如,使用40×/0.75NA物镜)通常会产生十亿像素的信息。而近年来硬件和软件的进步导致了扫描时间的加快24在美国,这仍然是一个限制速度的步骤,增加了该领域的创新负担,因为这些高通量扫描仪的价格在~ 15 - 30万美元之间,使得扫描仪在许多部署场景中成为“独角兽”,因为购买多个扫描仪变得非常昂贵。

对于典型的明场扫描显微镜,扫描速度限制步骤通常是扫描级的机械规格的结果2.许多努力已经提出,以提高这些显微镜的整体扫描速度。一种解决方案是在显微镜设备上增加硬件组件,如编码照明5678,然后需要一个后处理计算步骤来解码编码的样本信息9.最近,机器学习(ML)算法也被用于加速数字显微扫描的吞吐量,包括增强分辨率,景深10重新聚焦能力1112,以及在同一组织切片上计算生成多个斑点的能力,通过从每张幻灯片中增加有用的信息通道,有效地加速了成像过程1314.一些供应商采用的另一项技术是基于时间延迟集成(TDI),该技术通过使电荷转移与样品的运动同步来使用高通量扫描15.然而,大多数现有的幻灯片扫描仪仍然依赖于标准的CCD/CMOS相机,没有TDI功能。

在本期的光:科学与应用,伊利诺伊大学香槟分校(UIUC)的Michael John Fanous和Gabriel Popescu报告了一种显著加快整片扫描仪扫描速度的新方法16.它从标准的“停止和凝视”成像方法转向连续扫描方法,通过将基于机器学习的图像恢复方法应用于运动模糊扫描图像来重建生成的图像。这种基于ml的方法是在标准扫描显微镜上实现的,并且消除了专门的附加硬件组件的需要。该方法的主要贡献是将成像速度与阶段移动速度和阶段稳定解耦。为了实现他们的目标,作者采用了Pix2Pix图像翻译框架17.在这种情况下,输入是一个高度运动模糊的图像,由舞台的快速移动创建,而标签是在正常速度下捕获的清晰的高分辨率图像。这种方法有两个关键组成部分。首先是监督image-to-image翻译18,它使用配对的、精确配准的图像来进行像素级优化。第二个组件是生成对抗网络(GAN)19基于模型的数据自适应优化。简而言之,GANs由两个相互竞争的网络组成:一个生成器和一个鉴别器。Generator的作用是获取一个输入图像(在本例中,由于快速运动而导致的一个基本模糊的图像)并输出一个类似于配对标签的图像,而Discriminator的作用是作为Generator输出的评论。Generator和Discriminator之间的这种拉锯战促使Generator匹配标签的样本分布,从而创建清晰且逼真的结果。在Generator网络中使用配对图像的事实允许作者添加一个基于L1像素的损失项,这控制了鉴别器的更“艺术”效果,并创建了高度精确的图像重建,而不是仅仅试图创建图像的全局分布18

在深度神经网络训练之后,它被用于以高达5000 μ m/s的阶段速度连续扫描的图像去模糊,采集速率为30 fps,相当于100秒内~1.8 GPixels,或者用标准高通量扫描显微镜成像的大约15 mm × 7.5 mm的区域。为了便于比较,地面真实图像以50µm/s的阶段速度捕获。,速度慢100倍(见图;1).

图1:用GANscan进行运动去模糊的演示。
图1

结果与控制样本非常相似,采集速度是控制样本的100倍

作者证明了这对于明场和相位对比显微镜的应用以及多种类型的活检和组织成分。此外,作者对+/−5 μm的微散焦成像显示了令人印象深刻的弹性。这对于这种方法的任何潜在的实际使用都是重要的,因为散焦是这些扫描仪的一个常见问题(特别是在高放大倍率下),随着焦点校正步骤的增加,这种全算法方法所获得的大量速度增益将大部分丢失。

这种方法可以使临床和研究工作流程受益,并通过增加扫描显微镜的吞吐量来增加数字病理学的采用。它可以利用临床环境中已经部署的显微镜,而无需额外的硬件修改。为了使这种方法被广泛采用,ML模型应该使用不同的训练数据,以覆盖来自多个来源和显微镜的标本。总的来说,这种方法可以帮助研究民主化,并为下一代计算机辅助诊断应用提供动力。

通过这篇新闻和观点文章,我们也想记住这篇文章的资深作者,加布里埃尔(加比)波佩斯库博士,他今年早些时候在欧洲的一次悲惨事故中去世。他是全息术、显微术和定量相位成像(QPI)的先驱,是一个榜样,也是一位出色的同事。从他在麻省理工学院的博士后研究开始,加比专注于开发活体标本无标签成像的新技术。他结合了光学显微镜、全息摄影和光散射的优势,揭示了活细胞的内在特征,而不干扰它们的自然状态。在UIUC期间,Gabi与人合作撰写了许多关键论文和专利,这些论文和专利也被他联合创办的一家初创公司商业化。作为他有影响力的研究的延续,他在空间光干涉显微镜(SLIM)上的工作提供了亚纳米尺度下细胞结构和动力学的前所未有的灵敏度,以飞图精度量化细胞生长,并在未染色的活检中检测癌症。白光衍射断层扫描(WDT)是他开创的另一项技术,利用SLIM数据在3D中提取细胞信息。WDT让我们了解了细胞如何及时发挥作用的新科学,而且由于成像不会干扰细胞,因此可以对样本进行更长时间的研究。

梯度光干涉显微镜(GLIM)是Gabi的另一项相对较新的发明,它将他的技术扩展到较厚的标本,如大脑切片、胚胎和整个生物体模型(线虫、斑马鱼)。例如,GLIM很可能在不使用标签或物理接触的情况下,彻底改变对大脑神经连接的理解。体外受精是GLIM的另一个很好的匹配,因为典型的造影剂不能用于发育中的胚胎而不引入生存风险。GLIM也通过他实验室的开拓性创业努力实现了商业化。

光学界失去了一位巨人!我们都对加比今年早些时候的意外去世深感悲痛和震惊。我们的社区将记住他对生物光子学领域的开创性研究贡献,他成功地将他的研究小组的杰出学术成果转化为有影响力的产品,他出色的教学,导师,对光学和光子学社区的优秀服务以及亲切的友谊和机智的幽默。