人工智能首页 > AI学习 > 正文

人工智能发展当中,数据促进了IT技术变革以及人工智能落地

2019-12-17 阅读888次

  人工智能发展当中,数据促进了IT技术变革以及人工智能落地。因为数据越多,所需要处理的类型越来越丰富,从而推动了很多新需求、很多新应用诞的生。

  另外,人工智能发展的另一个趋势,就是终端与云端的联系越来越紧密。在终端,由于越来越多传感器被部署,越来越多的数据需要被处理,需要进行推理。

人工智能发展当中,数据促进了IT技术变革以及人工智能落地

  而这些推理,又往往依赖于云端,一方面,推理所需要的模型,往往需要终端数据汇集到云端,进行标注和训练得到。另一方面,终端由于受限于计算力和存储容量,对于一些复杂推理应用,需要云端的算力进行支撑。

  人工智能芯片要做到“好用”与“通用”,要解决一系列问题和挑战。寒武纪在这方面,做了很多尝试和工作。

  首先在处理器指令和架构设计方面,我们从应用需求出发,分析和抽取应用负载特征,基于这些特征设计灵活指令集,提供灵活的运算器方案,以及可扩展性强、高效架构。

  在具体产品落地上,寒武纪通过灵活和丰富的软件栈支持主流编程框架,并在大规模商用中得到反馈和修正,降低了成功智能芯片的开发成本,加速了人工智能芯片的落地。

  在实际的人工智能处理器设计过程中,采用传统ASIC芯片设计思路,也即直接将算法硬件化,存在三大矛盾和挑战需要克服。

  第一个有限规模的硬件和任意规模的算法的矛盾,硬件受限于物理限制,所能同时处理的算法规模是受限的。

  第二个是结构固定的硬件和千变万化的算法的矛盾,芯片和硬件的迭代速度较慢,周期较长,而算法迭代速度极快,同时同一时期的算法本身也是有各种各样的算法,如何通过一个结构的芯片或硬件支持各种时期,各种变化的算法,是个重大的挑战。

  第三个是能耗受限的硬件和计算量大的算法,由于处理数据的人工智能算法越来越复杂,以及所需要处理的数据量越来越大,所需要的算力也越来越大,对计算的成本提出了很大的挑战,计算所需要的电力成本升高及其后面的基础设施建造都会是一个重要的负担,因此,在实际落地中,企业往往对于人工智能硬件功耗提出了各种限制,各种要求。

  寒武纪在设计人工智能芯片过程中,采用了一系列技术来克服上述挑战,包括集成大量片内SRAM,神经元虚拟化,通用灵活的人工智能指令集,以及对稀疏神经网络的专门支持等技术。

  在产品战略上,寒武纪坚持云边端一体发展、协同发展,坚持推理和训练,云端、边缘和终端形成一系列产品矩阵,实现AI应用的全场景覆盖。我们在终端、云端、边缘都有不同层次的产品。

  在终端,由于产品形态非常千变万化,我们采用的IP授权的方式,把我们的AI能力赋能于各类终端SOC厂商,包括手机、摄像头SOC芯片厂商。

  在云端,我们直接提供芯片、板卡和软件栈,直接服务于互联网和行业巨头、数据中心。在边缘,我们定义的边缘计算是边缘网关侧的计算,我们也提供了专门的芯片和小尺寸加速卡,赋能于边缘计算的各行各业。


随意打赏