特斯拉展示DOJO D1芯片,旨在征服人工智能训练


从无数的初创公司,一直到亚马逊、百度、英特尔和英伟达等大公司,许多公司为 AI 工作负载构建专用集成电路(Application-specific integrated circuit,ASIC)。

Tesla DOJO D1 Chip

2021 年 8 月 19 日,特斯拉在 AI 日(Tesla AI Day,Youtube全程视频,那人从47分钟开始观看)上推出人工智能训练计算机 DOJO D1 芯片,D1 芯片是台积电在 7nm 半导体节点上打造的产品。该芯片包含超过 500 亿个晶体管,拥有 645mm^2 的巨大裸片尺寸。


浮点数的双精度、单精度和半精度


浮点数是计算机上最常用的数据类型之一,有些语言甚至数值只有浮点型(如Perl,Lua)。常用的浮点数有双精度、单精度和英伟达提出的半精度。双精度和单精度是为了计算,而半精度更多是为了降低数据传输和存储成本。

images.png

很多场景对于精度要求也没那么高,例如分布式深度学习里面,如果用半精度的话,比起单精度来可以节省一半传输成本。考虑到深度学习的模型可能会有几亿个参数,使用半精度传输还是非常有价值的。


5个优秀的Python端到端数据科学项目


本文是《5 Solved end-to-end Data Science Projects in Python》的节选,介绍 5 个优秀的数据科学项目,既有适合初学者的项目,也有高级项目,它们都是运用Python实现的,通过这些项目你可以充分了解数据科学对于企业的价值所在。

f02bad2626804e24ac742739440ea2a3.jpg


编程AI,让程序员提前下班、提早下岗


出于对强人工智能潜在风险的担忧,时任 Y Combinator 总裁 Sam altman 与特斯拉首席执行官埃隆·马斯克(Elon Musk)在 2015 年共同创建非营利性人工智能研究团体 OpenAI,目标在于建立一个全新的深度学习智能系统,包括在这些年已经被证明的在图像识别、口语辨识翻译等领域的具体应用。

GitHub-Copilot_blog-header.png

2019 年 7 月 22 日微软投资 OpenAI 10 亿美元,双方将携手合作替 Azure 云端平台服务开发人工智能技术。2020 年 6 月 11 日宣布了 GPT-3 语言模型,GPT-3 的目的是为了使用深度学习分类或产生人类可以理解的自然语言,微软于 2020 年 9 月 22 日取得独家授权。


谷歌用AI设计AI芯片


6月9日,谷歌在《自然》杂志(Nature)上发表论文《A graph placement methodology for fast chip design》表示,它的新人工智能可在不到6小时内完成人类需几个月才能完成的芯片设计工作。该技术已被用于开发最新一代的谷歌张量处理单元(TPU),用于运行人工智能相关任务,也就是用AI设计AI芯片。

1009px-Tensor_Processing_Unit_3.0.jpg

张量处理单元(Tensor Processing Unit,TPU),也称张量处理器,是 Google 开发的专用集成电路,专门用于加速机器学习。