苹果手机加速器(加速器ios海外)

编辑:大卫·拉扬太困了【新智元导读】果粉Big Day!PyTorch宣布,原生支持苹果Mac GPU机器学习加速。与单CPU加速相比,训练性能提升6倍,推理任

编辑:大卫·拉扬太困了

【新智元导读】果粉Big Day!PyTorch宣布,原生支持苹果Mac GPU机器学习加速。与单CPU加速相比,训练性能提升6倍,推理任务性能最高提升21倍

对于从事AI和机器学习的苹果用户来说,今天无疑是个好日子。

如果你是使用PyTorch的苹果用户,你可能会期待一年半的大日子!

就在刚刚,PyTorch官方宣布正式支持苹果Mac系统上的GPU加速训练。现在,M1芯片强大的GPU终于可以在机器学习任务中大显身手了!

苹果手机加速器(加速器ios海外)插图

作为业界应用最广泛的机器学习框架之一,PyTorch对Mac生态系统的支持长期以来并不完善。苹果平台只支持CPU加速。

Pytorch官方Twitter top放出了这个重磅消息,并给出了与之前只有CPU加速的性能提升对比。

根据对比图,ResNet50\HuggingFace BERT\VGG 16的相对性能高达21倍。

苹果手机加速器(加速器ios海外)插图(1)

事实上,作为全球软硬件生态最完整的巨头之一,苹果当然知道GPU加速对于支持深度学习计算任务有多重要。

早在2014年,苹果就推出了兼顾图形和计算功能的底层硬件加速应用接口Metal。

苹果手机加速器(加速器ios海外)插图(2)

Metal结合了类似OpenGL和OpenCL的功能。通过为iOS、iPadOS、macOS和tvOS上的应用程序提供对GPU硬件的低级访问来提高性能。

不过,虽然Metal经历了两次大版本更新,但对于苹果用户来说,并没有框架的原生支持。要想在主流框架下调用GPU实现加速,还是要“曲线救国”。

甚至有开发者表示,由于PyTorch对苹果GPU的支持不够好,他们一度被迫切换到TensorFlow,在TensorFlow环境下通过金属插件实现GPU加速。

苹果手机加速器(加速器ios海外)插图(3)

最后他说,“如果苹果硅的GPU能得到pytorch的原生支持,那将是一个令人高兴的消息。期待啊!」

今天,这位网友的期待终于实现了。

苹果手机加速器(加速器ios海外)插图(4)

PyTorch官网宣布,在与Metal engineering team合作后,很高兴宣布支持在Mac上进行GPU加速的PyTorch训练。

PyTorch表示,到目前为止,在Mac上的PyTorch训练只能使用CPU,但在PyTorch v1.12版本中,开发者和研究人员可以利用苹果硅GPU来大大加快模型训练的速度。

现在,开发者可以在Mac上执行原型设计和微调等机器学习任务流。

开发者:终于来了,盼一年多了!

其实Pytorch框架原生支持苹果GPU加速的问题已经提上开发日程一年多了。

此前有网友在Pytorch官方Github上发现了关于这个问题的问题。这期杂志于2020年11月发布,几乎与苹果M1芯片的发布同步。

苹果手机加速器(加速器ios海外)插图(5)

然后,这个问题很快得到了Pytorch创始人Soumith的回答:有原生支持计划,决定适配M1,但开发进度未知。

苹果手机加速器(加速器ios海外)插图(6)

但是,这件事好像没有下文了。一年多来,甚至有网友在知乎的问题帖上贴出“打卡找更好的工作”。

苹果手机加速器(加速器ios海外)插图(7)

今天还有人在这个问题下“拍拍”回答者。过了一年多,终于没有白费。好东西!

苹果手机加速器(加速器ios海外)插图(8)

很快,有人拿着它去测试。

苹果手机加速器(加速器ios海外)插图(9)

VGG16和CIFAR-10的图像为224x224像素。

可以看出,相比GPU,M1 Pro的CPU训练网络的速度快了一倍。

恭喜恭喜!

往事:用Mac GPU炼丹,先装Tensorflow

事实上,在今天消息出来之前,网友们已经尝试了各种方法来解决这个问题。

有网友说:“你用我的方法,就不需要别的了。」

首先,最简单的方法就是先装一个miniconda3。之后用户需要安装Tensorflow。

然后,这位博主演示了16个GPU核心的M1 Pro的性能。

博主说,16核GPU的M1 Pro是M1的升级版。它拥有两倍的GPU核心和两倍多的内存带宽。用户可以访问大量内存,而且由于内存是CPU和GPU共享的,所以是深度学习的最佳选择。

用户不需要将张量从一个设备移动到另一个设备。此外,用户还可以获得64GB内存的配置,这是目前市面上最大的移动GPU。

结果,还不错。

苹果手机加速器(加速器ios海外)插图(10)

不出所料,M1Pro Max比M1Pro快一倍(比GPU核心库快一倍)

苹果手机加速器(加速器ios海外)插图(11)

知乎上也有网友尝试Tensorflow在Mac上获得原生支持的金属加速。

然而,他在代轮中遇到了问题。他通过pypi安装d2I包,存在一些依赖问题。

最终他通过在github上release安装解决了这个问题。

然后按照官方的方法安装Tensorflow的插件后,就可以获得GPU加速了。

经过测试,总体来说,M1 max以“极低”的功耗产生了不错的计算能力(训练时整机功耗约为75w)。

该网友表示,“还是勉强可以参考。」

这就开Mac跑一波训练!

在推特上,各路网友也纷纷表示欣喜。毕竟期待太久了~

苹果手机加速器(加速器ios海外)插图(12)

Beat AI实验室前主任、助理教授李磊表示,“PyTorch终于可以支持在Mac M1GPU上训练了!该开电脑了!」

苹果手机加速器(加速器ios海外)插图(13)

Twitter上从事数据科学和机器学习的用户表示,他们对PyTorch更感兴趣。

苹果手机加速器(加速器ios海外)插图(14)

谷歌的工程师Rogerbai说,“我想看看PyTorch、M1 Ultra和英伟达40xx谁的速度更快。」

参考资料:

https://wandb . ai/tcapelle/Apple _ m1 _ Pro/reports/Deep-Learning-on-the-M1-Pro-with-Apple-Silicon-vmlldzoxmjq 0 njy 3

https://www . MAC rumors . com/2022/05/18/py torch-GPU-加速-训练-苹果-硅/

https://py torch . org/blog/introducing-accelerated-py torch-training-on-MAC/

https://developer.apple.com/metal/

免责声明:本站所有文章内容,图片,视频等均是来源于用户投稿和互联网及文摘转载整编而成,不代表本站观点,不承担相关法律责任。其著作权各归其原作者或其出版社所有。如发现本站有涉嫌抄袭侵权/违法违规的内容,侵犯到您的权益,请在线联系站长,一经查实,本站将立刻删除。

作者:美站资讯,如若转载,请注明出处:https://www.meizw.com/n/64088.html

发表回复

登录后才能评论