首页 > 新闻 > 消费类电子新闻
[导读]TPU(Tensor Processing Unit)即张量处理单元,是一款为机器学习而定制的芯片,它能为机器学习提供比所有商用GPU和FPGA更高的量级指令。
5月18日凌晨消息,Google CEO Sundar Pichai在I/O大会上正式公布了第二代TPU(TPU(Tensor Processing Unit)即张量处理单元,是一款为机器学习而定制的芯片,它能为机器学习提供比所有商用GPU和FPGA更高的量级指令。),又称Cloud TPU或TPU 2.0,这一基于云计算的硬件和软件系统,将继续支撑Google最前沿的人工智能技术。第一代TPU于去年发布,它被作为一种特定目的芯片而专为机器学习设计,并用在了AlphaGo的人工智能系统上,是其预测和决策等技术的基础。
随后,Google还将这一芯片用在了其服务的方方面面,比如每一次搜索都有用到TPU的计算能力,最近还用在了Google翻译、相册等软件背后的机器学习模型中。 今天凌晨,Google宣布第二代的TPU系统已经全面投入使用,并且已经部署在了Google Compute Engine平台上。它可用于图像和语音识别,机器翻译和机器人等领域。 新的TPU包括了四个芯片,每秒可处理180万亿次浮点运算。Google还找到一种方法,使用新的计算机网络将64个TPU组合到一起,升级为所谓的TPU Pods,可提供大约11500万亿次浮点运算能力。
强大的运算能力为Google提供了优于竞争对手的速度,和做实验的自由度。Google表示,公司新的大型翻译模型如果在32块性能最好的GPU上训练,需要一整天的时间,而八分之一个TPU Pod就能在6个小时内完成同样的任务。之所以开发新芯片,部分也是因为Google的机器翻译模型太大,无法如想要的那么快进行训练。 除了速度,第二代TPU最大的特色,是相比初代TPU它既可以用于训练神经网络,又可以用于推理。初代的TPU只能做推理,要依靠Google云来实时收集数据并产生结果,而训练过程还需要额外的资源。 机器学习的能力已经逐渐在消费级产品中体现出来,比如Google翻译几乎可以实时将英语句子变成中文,AlphaGo能以超人的熟练度玩围棋。所有这一切都要靠训练神经网络来完成,而这又需要计算能力。所以硬件越强大,得到的结果就越快。如果将每个实验的时间从几周缩短到几天或几个小时,就可以提高每个机器学习者快速迭代,并进行更多实验的能力。由于新一代TPU可以同时进行推理和训练,研究人员能比以前更快地部署AI实验。
过去十多年来,Google已经开发出很多新的数据中心硬件,其中包括服务器和网络设备,主要目的是扩张自己的在线帝国。而过去几年中,在AI方面Google也选择开发自己的硬件,为其软件做优化。神经网络是复杂的数学系统,通过分析大量数据来学习,这种系统从根本上改变了技术的构建和运行方式,影响范围也包括硬件。 在某种程度上,初代的TPU被设计来是为了更好地支持TensoFlow机器学习框架。而归功于Google在软硬件上的进步与集成,TensorFlow已经成为构建AI软件的领先平台之一。这种优化,再加上Google大脑及其DeepMind子公司的内部人才,正是Google在AI领域保持领先的部分原因。 芯片厂商NVidia的GPU几乎主宰了机器学习的市场,而现在,Google想通过专门设计用于训练神经网络的芯片,来改变市场提格局。
亚马逊和微软通过自己的云服务提供GPU处理,但他们不提供定制的AI芯片。 不过Google也不能因此而高枕无忧,因为短期内竞争就会加剧。目前已经有几家公司,包括芯片巨头英特尔和一大批初创公司,正在开发专门的AI芯片,它们都可能替代Google TPU。 首先开发出新的芯片并不能保证Google成功,要使用TPU 2.0,开发者要学习一种构建和运行神经网络的新方法。它不仅仅是一个新的芯片,TPU 2.0也是专门为TensorFlow设计。虽然Tensorflow是开源软件,但也有许多研究人员使用Torch和Caffe等类似的软件。新硬件需要新的软件优化,这需要不少时间。 在Google推出TPU 2.0的几周之前,Facebook的AI研究主管Yann LeCun质疑称,市场可能不需要新的AI专用芯片,因为研究者已经对使用GPU所需的工具非常熟悉了。新的硬件意味着新的生态系统。 另外,Google云服务的成功不仅取决于芯片的速度,以及使用的容易程度,还要考虑成本。所以,如果Google以比现有GPU服务更低的成本提供TPU服务,会得到更广泛的用户基础。 Google自己当然会使用新TPU系统,但也会将它的能力开放给其它公司使用。Google表示,不会将芯片直接出售,而是会通过其新的云服务(年底前公布)提供,任何开发者都可以使用新处理器带来的计算能力。 Google也重申了其对开源模式的承诺,表示会向同意发布研究结果的研究人员提供TPU资源,甚至可能开源代码。他甚至呼吁开发者加入TensorFlow Research Cloud计划,它会免费提供一组1000台TPU。 新TPU的速度优势肯定会吸引到不少研究人员,毕竟AI研究要在大量硬件上广泛试错。就此而言,Google愿意免费提供计算资源对全世界的AI研究者来说都是有好处的,当然,这对Google来说也是有好处的。
换一批

延伸阅读

[新鲜事] 受产能限制 魅族与高通和解后依旧用不上骁龙芯片

受产能限制 魅族与高通和解后依旧用不上骁龙芯片魅族去年可是非常的不容易,用联发科芯片撑了一年,被网友疯狂吐槽继续打磨万年联发科。魅族最后发布搭载三星8890的PRO 6 Plus可让魅友高兴坏了,更高兴的是,魅族年初和高通和解了,这意味着魅族手机也能用上高通芯片鸟枪换炮了,但不要高兴太......关键字:魅族 高通 骁龙芯片

[新鲜事] 神经形态芯片模仿人类大脑设计 将取代CPU

神经形态芯片模仿人类大脑设计 将取代CPU神经形态芯片(neuromorphics)被设计专门用于模仿人类大脑,他们可能很快取代CPU。......关键字:神经形态 芯片 CPU

[新鲜事] 基频芯片之争,高通的领导地位备感压力

基频芯片之争,高通的领导地位备感压力据报导,在几乎垄断 4G LTE 与 3G EV-DO 基频芯片市场的大厂高通(Qualcomm),过去所采用的 IP 授权手段,以限制其他竞争对手介入市场的手法,目前已开始遭到包括苹果(Apple)等厂商的反弹后,这也使得竞争对手包括英特......关键字:基频芯片 高通

[新鲜事] 集成电路2016年进口2271亿美元 芯片产业需在高端破局

集成电路2016年进口2271亿美元 芯片产业需在高端破局本届两会上,中国芯片产业第一次成为热议话题,在数十名代表的议案中现身。不难发现,2014年成立的1300多亿元的集成电路大基金,终于初显成效。......关键字:集成电路 芯片产业

[新鲜事] 芯片行业深似海 国产智能手机还须跨过自主芯片的坎

芯片行业深似海 国产智能手机还须跨过自主芯片的坎智能手机行业国内的竞争日趋激烈,不光要面对本土企业在同一纬度上的竞争,还要顶得住来自国际品牌更高纬度的打击。为了能够在竞争中谋得一席之地,国产手机厂商不得不全面出击,不仅在智能手机的设计制造商挖空心思,在供应链的层面,也要有所作为。......关键字:国产 智能手机 自主芯片

[新鲜事] 垄断高端市场 高通835芯片占领今年上半年大部分旗舰手机

垄断高端市场 高通835芯片占领今年上半年大部分旗舰手机据报导,在 10 纳米先进制程已成为市场发展趋势,联发科 10 纳米制程产品 Helio X30 又预计要到第 2 季才会量产交货的情况下,高通新一代骁龙 (Snapdragon) 835 芯片,在 2017 年上半年就几乎横扫全球各大品牌......关键字:高通835芯片 智能手机

[新鲜事] 芯片界的“小强”:打不死的AMD

芯片界的“小强”:打不死的AMD如果要评选芯片市场谁是“打不死的小强”,我想AMD绝对有资格入选。一个被龙头老大英特尔围追堵截了那么多年,以至于连续5年亏损,多次传出破产出售消息的公司,如今竟然奇迹般的起死回生,甚至还大有一副卷土重来的架势,这在竞争激烈的ICT行业不能不......关键字:芯片 AMD

[趣科技] 美瘫痪男子大脑植入芯片 电脑控制手臂自主吃饭

美瘫痪男子大脑植入芯片 电脑控制手臂自主吃饭 据报道,一名瘫痪男子八年来首次可以自己吃饭,因为医生在他的大脑中植入了传感器,能够向他的手臂发出信号。......关键字:芯片 电脑控制手臂

[新鲜事] 谷歌以“学术搜索”重返中国,这次还会是幻觉么?

谷歌以“学术搜索”重返中国,这次还会是幻觉么?幻觉多了,也可能成真。去年以来便有传闻称,Google要拆分不同的业务板块进入中国,而最新的消息是,先进来的可能是Google搜索很小的一部分——Google 学术,一个专门用于科技、文化研究和找论文的工具。......关键字:谷歌 学术搜索 中国
条评论

我 要 评 论

网友评论

技术子站

更多

推荐博客

亿万先生手机版