开局全靠CPU,如何攻下医疗AI项目?

特大号 2021-07-22 20:19
这几年
英特尔不遗余力地
推进人工智能行业实践
核心一点
就是让大家知道
在人工智能时代
英特尔依旧是你熟悉且靠谱的老朋友


英特尔深知

深扎场景才是王道

于是,医疗行业毫无悬念地成为了

英特尔发力AI行业实践的重心

只因医疗行业一贯霸气

多刚需,敢尝鲜,有场景,可落地



与此同时

一大批长年深耕医疗行业的

系统集成商、设备商、服务商等合作伙伴

早已盯准了医疗AI风口

准备进去大展身手


  细看【医疗AI产业链】

分上游、中游、下游


英特尔的卡位是上游

提供【硬件+软件】全栈AI加速平台

ISV、集成商和设备商是中游

他们懂场景、会算法、有客户、能落地


这般契机之下
英特尔和这些合作伙伴们,一拍即合
一辆辆医疗AI的战车已经发动起来了


AI在医疗行业,究竟如何落地?





当下,在医疗行业客户中

接受度较高、部署较广泛的AI应用

多集中在医学影像领域

说白了,就是AI读片

做影像科医生的小助手

它能读X光片、CT片、核磁片、超声片、病理片、内窥镜片..

读片后给出辅助诊断报告,供医生参考

让他们更快、更准地确认诊断结果


由于医学影像AI应用较成熟、效果好
市场容量大、需求旺盛

2020年众多中游玩家入局

所以,我们就来看看


  英特尔和行业伙伴是如何合作的?





1、助力汇医慧影
打造全周期 AI 医学影像解决方案


其中的Dr. Turing AI平台

曾用于新冠肺炎的CT快速筛查

在多数医生还对新冠肺炎不够熟悉时

它就经历了数以千计的确诊病例的训练


大大减轻了一线医疗工作者的压力

它的算力平台,动力就是来自

英特尔®至强®可扩展处理器与OpenVINO™的搭配



2、助力江丰生物
利用AI技术开发宫颈癌筛查系统

基于3万多例数字图像标注数据

搭配目标检测深度学习框架

利用至强CPU+大内存的组合优势

得出更高效也更精准的模型

同样在CPU平台上部署

从三级医院到基层医院都能快速落地

减少医生水平差异带来的问题



3、助力西安盈谷

在医真云上实现AI辅助医学诊疗创新


基于医真云方案和@iMAGES引擎

汇集和处理的海量医学影像数据

快速、高精度地诊断和筛查疑难杂症

在高难度的肺结节早期确认场景中

监测敏感度(探测率)达到95%

用时也从人工方式的10多分钟缩短到6秒以内

整个方案的加速秘诀

就是至强CPU AVX-512技术与oneDNN的合力



4、助力爱尔眼科
打造普及型视网膜病变AI筛查系统

爱尔眼科和晋弘科技(MiiS)携手

为手持式眼底照相机连接深度学习功能

医生采集眼底影像后,上传到推理系统

这个系统基于至强CPU

还有面向英特尔®架构优化的AI框架

能迅速返回诊疗预判结果

准确率也从人工平均的70%-80%猛增到93%

更重要的是,即使是社区医疗站或基层诊所

装备了这套方案后

也可以快速精准的筛查糖网和黄斑变性






AI医学影像解决方案

共性是什么?





AI医学影像应用的开发和部署
都绕不过去一个关键的环节
【深度学习】

深度学习又包含两个主要步骤

1、训练  2、推理


训练,就是为了输出一个算法模型

推理,就是把算法模型,部署在实际场景中

基于实际数据,得到结果


现在很多医院

直接购买或获取训练好的模型

根据自己的需求稍加优化

然后开始实战


在深度学习两大步骤中

大家都有一个“共性”刚需


【快】 


1、在训练环节

期望获得更快的训练速度




2、在推理应用环节

也要更快、更准地得出推理结果




想要具备这两种“快”

不单单牵涉到硬件算力

还要考虑平台架构、软件优化工具

和科学优化策略等等

总之,需要全栈密切配合

才能做出一个更具实践意义的AI项目





至强“全家桶”

加速AI全方位





软硬件高效协同

恰恰是英特尔的一大核心优势

也是行业合作伙伴愿意与英特尔携手的关键


从这个角度打造的至强“全家桶”

就能帮助合作伙伴构建

全栈多场景、软硬件协作的AI解决方案

包括
硬件→计算、存储、网络
软件→库、深度学习框架、工具套件





  在硬件方面 

第一大“硬货”,便是

英特尔®至强®可扩展处理器


截止到今年,它已经进化到第三代

AI加速能力更见强悍


它面向多路服务器的型号

通过深度学习加速技术

同时支持INT8和BF16加速

训练和推理性能

比上代产品提升分别达1.93倍1.9倍



面向双路服务器的型号四月刚发布

主打INT8加速

推理性能相比上代产品提升达1.74倍

...


第二大“硬货”

英特尔®傲腾™持久内存和傲腾™固态盘

基于傲腾™存储介质的产品

可以更快地将更多数据

喂给CPU,这个算力中枢

减少它的空转,或者说等待

让AI训练和推理时延更低、速度更快




傲腾™存储介质衍生了两大系列产品


傲腾™持久内存,最新型号是200系列

单条容量最高512GB

性能接近DRAM,搭配DRAM

可以让单路CPU配到6TB内存

这就相当于在CPU楼下开了个超大卖场

离得近,送货快


傲腾™固态盘,最新型号是P5800X

支持PCIe 4.0,

也秒杀所有PCIe 4.0 NAND固态盘

相比同门NAND产品

在时延、QoS、每GB IaOPS

还有耐用性上

都有十几至几十倍的优势!



  软件方面,英特尔也是“软饭硬吃”


首先是最基本的库,代表是oneDNN

包含高度矢量化和线程化的构建模块

让深度神经网络能识别和利用

至强的AI加速能力

提升应用性能并缩短开发、部署和优化时间

都离不开它的基础作用

西安盈谷的成功实践,就离不开它的贡献



其次就是面向英特尔®架构优化的AI框架

 

把oneDNN这样的核心库融入

主流的AI框架就变成了英特尔的好朋友

用CPU加速AI更加得“芯”应手

爱尔眼科能做出易于推广的眼底病变筛查系统

改造过的AI框架功不可没


接下来还有优化的工具包

大家熟悉的莫过于OpenVINO工具套件

 

它是把模型转成INT8和BF16的好帮手

也是加速模型部署和优化的好工具

更是针对几乎所有CV应用提供了充分优化

使用主打图像AI能力的医学影像应用时

怎么能缺少它的参与



大家可能好奇这些软件会不会组合出现?

 ↓




让我们来瞧瞧东软eStroke溶栓取栓影像平台,基于英特尔®️至强®可扩展处理器,先后采用优化的TensorFlow框架和OpenVINO™工具套件做性能调优,其推理时延分别降低了72.6%和85.4%,在争分夺秒的脑卒中治疗中,满足更低时延的苛刻要求。






总之

英特尔至强“全家桶”

软硬充分协作、优化一步到位、加速近在眼前



你以为这就完了

瞧瞧这个更新的全栈平台

你看到了哪些变化?

这些变化会让医疗,哦,还有金融

教育、制造等行业的AI落地更加如虎添翼嘛?

让我们一同期待


推荐阅读