深度学习硬件指南


Hardware-Guide-for-Deep-Learning

随着人工智能的广泛应用,越来越多的人参与“见证奇迹”,但这方面的实践对算力的要求比较高。在精心配置一台游戏电脑的基础上,简要记录一下深度学习的硬件指南。


AI特刊:AMD发布最强GPU芯片


103822t62ssb25zo6tx1z5.png.png

2023年6月13日,AMD发布其最先进的用于人工智能的GPU芯片MI300X,并称将于今年晚些时候向部分客户供货。AMD 的 Instinct MI300 系列包括Instinct MI300A 和MI300X 两种。MI300A 包含CPU 与GPU,而MI300X 则是纯GPU 的加速模组,功耗高达750W。相比MI250X,MI300的AI性能(TFLOPs)提高了8倍,而前者是383TFLOPs,也超过了NVIDIA H100。(via xfastest.com


Auto-GPT的思考


当OpenAI/ChatGPT概念风行之时,激发了一些人的AI奇想,比如:

  • 用ChatGPT生成Prompt,让Midjourney去绘画。Midjourney十分依赖Prompt技巧,可能需要十几个乃至几十个提示词,才能输出用户想要的图案。
  • 波士顿动力机器人+OpenAI,训练战斗机器人。波士顿动力公司(Boston Dynamics)替美国军方开发的四足机器人:波士顿机械狗(Boston Dynamics BigDog),BigDog 是第一个离开实验室的有腿机器人。

maxresdefault.jpg

要实现这些AI奇想,需要通用人工智能(Artificial General Intelligence,AGI,强人工智能)和 AI 代理(AI agent或者Intelligent agent),它感知环境,自主采取行动以实现目标,并可以通过学习或获取知识来提高其性能。Auto-GPT就是一个AI 代理。


提示工程与提示策略


提示词(Prompt)是给 AI 模型的指令,这个指令可能是一个问题,也可能是一个描述,甚至可能是带有参数的描述。

prompt-engineering.jpg

提示工程(Prompt Engineering)是设计和改进Prompt的技术。虽然最新的AI多是支持Prompt使用自然语言的,但为了让AI更好的理解指令并准确、可靠地执行特定任务(或者说是更有利于人类操作和控制AI),需要Prompt Engineering技术。


美国《外交政策》:人工智能将如何改变战争?


美国《外交政策》(Foreign Policy)4月11日文章《人工智能将如何改变战争》(How AI Will Revolutionize Warfare)谈到先进的人工智能,大部分争论都集中在白领工人是否面临威胁。虽然人工智能很可能会突然间能够替代律师、会计师、教师、程序员以及记者所做的大部分工作,但这些可能不是发生最大变革的领域。

Michael-Hirsch-AI-future-warfare.webp
新的技术军备竞赛没有规则,也没有什么护栏。

最新的人工智能可能会彻底改变战争,它的作用不一定令人欣慰,甚至可能是致命的。


下一代 AI 助手 Anthropic Claude


Anthropic是一家美国人工智能初创公司,于 2021 年由 OpenAI 的前高级成员Daniela Amodei 和 Dario Amodei等创立,开发自己的 AI 聊天机器人,名为 Claude。自 2022 年底以来,谷歌已向该公司投资近 4 亿美元,Anthropic 宣布与谷歌云建立正式合作伙伴关系。Anthropic 的目标是在未来两年内筹集多达 50 亿美元,以与竞争对手 OpenAI 竞争并进入十几个主要行业。

Claude_SOCIAL_2023-03-10.jpg

Claude被定义为下一代 AI 助手,可以帮助处理总结、搜索、创意和协作写作、问答、编码等用例,提供两个版本:Claude 和 Claude Instant。

  • Claude 是最先进的高性能模型,针对需要复杂推理的任务的性能进行了优化,价格为每百万字符 2.90 美元(提示)和每百万字符 8.60 美元(输出);
  • Claude Instant 是更轻、更便宜、更快的选择,针对低延迟、高吞吐量用例进行了优化,价格为每百万字符 0.45 美元(提示)和每百万字符 1.45 美元(输出)。


AIGC应用快速体验


AI Generated Content(AIGC)是指通过人工智能模型创建数字内容,例如图像、音乐和自然语言,被认为是继UGC、PGC之后的新型内容生产方式,AI编程、AI绘画、AI写作等都属于AIGC的分支。AIGC 的目标是使内容创建过程更加高效和易于访问,从而能够以更快的速度制作高质量的内容。AIGC是通过从人类提供的指令中提取和理解意图信息,并根据其知识和意图信息生成内容来实现的。

aigc-app-quick-start

以下通过ChatGPT、Stable Diffusion和Midjourney三个广受关注的人工智能模型,快速体验AI编程和AI绘画的乐趣。题图背景是Midjourney绘制的一只猫。


人工智能超算中心的高性能处理芯片


推动人工智能发展的因素有三个:算法创新、数据,以及可用于训练的计算量。OpenAI的算力趋势报告表示,自2012年以来,在最大规模的人工智能训练中所使用的计算量呈指数级增长,3.5个月的时间翻一倍(相比之下,摩尔定律是18个月的倍增周期)。

high-performance-ai-processors

NVIDIA A100/H100和AMD MI100/MI250是目前性能最强的GPU,它们是人工智能数据超算中心的高性能核心处理芯片。