地平线黄畅:在软件2.0时代 数据驱动的进化 计算能力将成为智能的基石
从MEET 2021开始组建编辑部
量子报告| QbitAI，微信官方账号
目前，AI芯片将面临哪些挑战？
随着软件进入“2.0时代”，数据开始推动AI进化，计算能力逐渐成为智能的基石。
但是除了芯片本身计算能力的提高，AI算法对芯片的要求也会越来越高。
一方面，AI算法的发展日新月异，从人工设计特征到深度学习神经网络模型，发展速度已经远远超过了AI硬件提升的速度。
另一方面，在软件2.0时代，灵活的AI开发和有效的数据闭环将成为AI系统的新特点，这将对AI芯片提出更多的要求。
前后波，共同进攻。AI芯片，怎么破圈？
在MEET 2021 Smart Future发布会上，零点科技联合创始人、副总裁黄畅分享了他对AI芯片行业发展的思考。
量子位在不改变初衷的基础上，编辑了黄畅演讲的内容。
关于MEET Smart Future Conference:MEET Conference是由qubit赞助的智能技术领域的顶级商业峰会，专门讨论前沿技术的落地和工业应用。包括李开复在内的20多家顶级行业咖啡参加了会议，超过150万网民在线观看了直播。包括新华社、搜狐科技、报纸和封面新闻在内的数十家主流媒体报道称，网上曝光率超过2000万。
演讲要点
AI的核心思想是不断用机器代替人去做更多的事情，包括学习本身。
“软件2.0”是指整个AI系统的开发、测试、改进和安全评估在真实物理世界中迭代升级，形成数据迭代的闭环。
如今，图像识别算法的进化速度甚至已经超过了半导体行业的摩尔定律。
即使功耗低，面积小，芯片也不能没有性能。但是芯片的计算能力指数(top)并不能反映最先进算法带来的性能提升。因此，Horizon提出了一个新的指标MAPS来合理评估计算性能。
只有将最先进的算法与最先进的处理器架构相结合，才能更好地优化算法。
车载AI芯片不仅是智能汽车的数字引擎，也是整个芯片行业的巅峰。
(以下为黄畅演讲分享全文)
快速进化的人工智能算法
自20世纪60年代提出以来，人工智能经历了几个发展阶段。
从早期的象征主义、基于规则的专家系统，到后来的人工设计特征、浅层学习，再到今天的深层学习，超越了深层学习的新范式.
在每一个发展阶段，AI的核心思想就是不断用机器代替人去做更多的事情，包括学习本身。
但与其他领域不同的是，AI涉及的问题很难用分解来简化。
以计算机视觉为例。
在我们看来，下图是一只猫；但对电脑来说，只是一堆数据。
如何让计算机理解这个画面，是一个复杂的、高度非线性的问题。
one-p">上世纪80~90年代，计算机视觉的先驱，曾提出一种场景理解框架：用计算机提取图片中的物体边缘、构造2D物体，并理解2D物体之间的深度关系（2.5D信息），以获得3D模型。
但这个框架过于理想化。
不仅在框架计算时会引入大量不确定性（错误、噪音），输入图像本身也存在物体尺度变化、流水遮挡、同类物体类内差异等问题。
而且，现实场景下存在大量光源，各种光会从不同角度、位置出发，在空间中发生反射、折射等变换。
但计算机，却无法逆向还原这一过程。
伴随着AI发展进入下一阶段，专家们开始尝试设计一些简单特征（如SIFT、HOG等特征）。
这些特征，通常用于描述边缘、纹理等信息。
然后，计算机会用机器学习中的浅层学习（如SVM、随机森林等）模型来处理特征。
这些模型的参数不多，通常只经过2~3层非线性变化。
十几年前，随着稀疏编码（Sparse Coding）出现，这条路走到了极致。
这种方法基于无监督学习，将特征表达从低维映射到高维，并在高维稀疏空间中，用线性方法进行图像分类。
尽管参数很多，但稀疏编码并非端到端学习模式，仍属于浅层应用框架。因此，它的提升空间非常有限。
2012年，深度学习开始在计算机视觉领域“一飞冲天”。
随着深度学习的发展，各种AI模型的运算效率变得更高。
如果配合上特定的硬件设计，还能很好地扩大模型的容量、提升模型识别精度。
早期的深度学习网络，仍然由专家设计。但后来，研究者们开始让AI自主发现能提取最优关键特征的网络架构、构造神经网络。
这期间，AI模型变得更加多样化，算法也在不断进步，其速度甚至超过了半导体行业的摩尔定律。
过去8~10年里，处理器性能大约每隔18个月翻倍，但在保持精度相同的前提下，算法的计算量每隔10~14个月就能减半。
如今，只需要几百分之一的计算量，AI算法就能达到8年前图像识别的精度。
相比于传统方法（下图黑线）会导致精度饱和，深度学习（下图红线）的优势在于，它能很好地利用大数据、大模型和大计算量，来提升模型精度。
但与AlphaGo不同，基于深度学习的AI系统不能只建立在模拟器中。
以地平线从事的自动驾驶行业为例。
相比于虚拟世界，自动驾驶所应用的真实物理世界（像动植物、自然气候等）在不断发展变化、并持续涌现出新的任务和边角案例（corner case）。
因此，我们不能只在“虚拟世界”（如模拟器）中，训练端到端算法（感知、预测、规划、决策）、再将它们部署到汽车上。
我们必须将整套AI系统的开发、测试、改进、安全评估，放在真实的物理世界中迭代提升，形成一个数据迭代闭环。
这，便是所谓的“软件2.0”。
软件2.0时代，AI芯片新指标
软件2.0开发系统，是目前可行度最高的大规模持续迭代AI系统。
这个AI系统建立于自动化平台上，通过构造一个完整的数据闭环，来快速提取物理世界的数据。
然后，将数据送入后端训练、迭代模型，以提升系统的精度与效率，再通过OTA更新前端模型。
这是一个包含数据和计算系统在内的、非常完整的体系。
那么，这个数据闭环长什么样？
如下图，传统的“数据标注训练评测”，只是其中的一个小闭环，里面的数据是“死”的。
真正的大数据闭环，实际上包含这一训练模型，它会通过OTA服务器，将模型部署到机器人端（如自动驾驶车辆）。
然后，再由机器人端采集数据，并通过数据挖掘送到闭环数据系统，进行快速迭代。
这样的“小闭环+大闭环”，构成了整个“软件2.0”的开发系统。
这些年来，我们的软件算法演进速度很快。
但算法的演进速度，是以巧妙的算法设计为代价的。算法越巧妙，对计算架构的要求就更高。
像传统的通用并行计算架构GPU，已经无法满足目前先进AI算法的需求，因为它的整体计算效率，其实相当低下。
举个例子，下面是用运算能力（TOPS）达每秒30万亿次的处理器系统，运行各种算法任务的结果。
理想情况下，系统的算力利用率，应该能达到100%；但实际上，算力利用率普遍只有5%~60%。
精度相同时，算法计算量越小，计算效率通常也越低。
因此，处理器的架构设计非常重要。架构设计得越合理，算法运行就越高效。
为了合理地评估计算性能，地平线提出了一个新指标MAPS（Mean Accuracy-guaranteed Processing Speed，在精度有保障范围内的平均处理速度）。
为什么要提出这个新的指标？
事实上，芯片的评估，往往有三个指标（PPA）：性能（Performance）、功耗（Power）、面积（Area）。
其中，功耗和面积分别决定了芯片的使用、制造成本，但无论功耗再低、面积再小，芯片都不能没有性能。
然而运算能力（TOPS）指标，并不能反映最先进算法带来的性能提升。
因此，我们定义了MAPS，这个指标通过可视化和量化的方式，在合理的精度范围内，以“快”和“准”两个维度，评估芯片对数据的平均处理速度。
例如，在不同芯片上对ImageNet数据集进行图像分类。
首先，选择适合芯片的算法，然后从“快”和“准”两个维度，对芯片的速度和精度进行评估。
上图的三条曲线，就对应了三颗不同芯片的物体识别效果。
这三颗芯片，分别是地平线第三代处理器、第五代处理器和英伟达Xavier芯片。
对比发现，在图像分类中，地平线第三代处理器只需要8%的功耗，就能达到英伟达50%的性能；第五代芯片只需要50%的功耗，就能达到英伟达500%的性能。
在目标检测中，第五代处理器同样用50%的功耗，就达到了英伟达13倍的性能。
如果只沿用通用计算架构，很难为先进算法做出优化。
只有将最先进的算法、和最先进的处理器架构设计结合，才能在功耗和性能上同时达到最优。
在软件2.0时代，算力的重要性不言而喻，尤其是领域相关的算力，而非通用算力。
如果对领域相关的算力进行评估，一个更合理的指标就是MAPS。从这一指标来看，地平线设计芯片的功耗和性能，要比通用设计芯片的优势更大。
在钻研AI芯片技术的过程中，我们也发现一个很有趣的现象。
一方面，我们在不断提高AI技术；另一方面，AI技术也改进了我们的生产制造。以芯片设计为例，普通工程师进行电路连线需要6周，但AI只需要6小时。
事实上，AI技术的出现，给芯片设计带来了巨大挑战。
AI任务要求，芯片除了算力、还必须携带大量计算和存储单元，即对存储带宽提出了更高要求。
反之，AI技术，也在快速推动AI芯片的发展。
车载AI芯片，行业的珠穆朗玛峰
地平线渴望万物智能的时代，在我们看来，汽车终将成为四个轮子上的超级计算机。
而车载AI芯片，不仅是智能汽车的数字发动机，也是整个芯片行业的珠穆朗玛峰，其设计难度和质量要求（车规级）都很高。
地平线的定位是Tier2，为产业赋能。我们既能供应芯片，也能提供完整方案，同时，还可以开放工具链，提供算法、模型样例，进行专业化的培训服务。
今年，地平线开启了前装量产元年。
地平线车规级芯片“征程2”，目前出货量已突破10万，还签下了20多个前装定点项目。
目前，全球仅有三家公司，实现了车规级AI芯片规模化量产，地平线就是其中一家，也是国内唯一一家实现车规级AI芯片大规模量产的企业。
而长安UNI-T和奇瑞蚂蚁，也已经率先采用地平线的芯片，用作智能驾舱和高级别辅助驾驶。
今年3月，“征程2”在长安UNI-T上实现前装量产；9月，奇瑞蚂蚁搭载“征程2”正式上市，实现L2+级自动驾驶。
从自动驾驶到智能座舱，汽车智能化的大潮即将涌来，势不可当。
我们希望通过努力去赋能百业，让我们的客户和用户，都能享受到AI带来的收益。同时，我们也愿意与更多伙伴一起踏上这一征程。
谢谢大家！