尽管人们担心人工智能会取代人类，但大部分“打工人”还是在工作中积极拥抱AI来提高工作效率。根据FlexOS（flexos.work）收集的Similarweb网站流量数据，2024年5月份，OpenAI的ChatGPT使用量增长了74%，网站访问量从4月份的18亿次增至31亿次。

OpenAI ChatGPT的发布标志着生成式AI的爆发，是2024年5月份全球工作中使用最多的生成式人工智能工具，紧随其后的竞争对手包括Google Gemini、Anthropic Claude，以及随时要挑战Google搜索引擎的Perplexity。

本地部署人工智能模型，不仅通过重视和利用资源赋予个人权力，而且还培育出更加分散和民主的数字生态系统。也就是说，不仅增强了隐私和安全性，还引入了个人计算作为数字时代潜在货币的有趣概念。

Ollama是一个易用的本地语言模型运行框架，可以一键启动并运行Meta Llama 3、Microsoft Phi 3、Google Gemma 2和其他更多开源语言模型（官方模型库也是一份很棒的开源语言模型清单，和NVIDIA提供的最受欢迎的基础模型列表一样，总是汇总支持的最新模型信息），并支持自定义模型导入。Ollama旨在简化在本地硬件上运行大型语言模型的过程，支持GPU加速以提升推理性能。本文基于 Windows 11 + 64 GB + RTX 2080 Ti + Llama 3.x + Cherry Studio 实践。

人工智能代理（AI Agents）是人工智能的未来——随着人工智能技术的不断进步，它们正变得越来越流行。

但什么是人工智能代理？它们能用来做什么？——AI 代理是一种可以在环境中自主行动的实体。

在台北举行的 2024 年度 Computex 大会上，英特尔、AMD 和 Nvidia 展示了其最新的数据中心和 AI 套件，并让人对各自路线图的下一步发展有了初步了解。

最令人吃惊的更新之一来自 Nvidia

去年，我们了解到这家 GPU 设计公司正在加快其开发周期，以支持每年一次的发布节奏。在台北的舞台上，Nvidia 首席执行官黄仁勋向我们详细介绍了这家芯片制造商的计划，包括其下一代 GPU 和系统架构的名称 - Rubin。

Nvidia 的路线图现已延伸至 2027 年，其中包括 2026 年推出的全新 Rubin GPU 和 Vera CPU

虽然我们经常关注芯片本身的规格和功能，无论是 H100、GB200 Superchip 还是其 Blackwell Ultra 兄弟，但重要的是要记住这些组件并不是您可以从货架上取下来的独立部件。Nvidia 最高端的加速器不是 PCIe 卡；它们是整个平台。

Raspberry Pi 5 是一款小而强大的计算机，在科技爱好者和工业公司中颇受欢迎，现在它也是一款人工智能计算机。该公司刚刚发布了AI Kit，这是一款价值 70 美元的扩展套件，带有神经网络推理加速器，可用于本地推理。

对于这个新的扩展模块，Raspberry Pi 正在利用其 HAT+ 扩展卡。HAT 是"Hardware Attached on Top"的缩写，公司一直用它来表示可以安装在普通 Raspberry Pi 上的扩展卡。

人工智能技术旨在模仿人类的行为、智力甚至情感。这些技术可以执行复杂的任务，如解决问题、根据数据输入做出决策、识别和解释视觉信息，以及理解和响应书面和口头语言。

在商业领域，人工智能(AI)已广泛应用于各个行业，并展现出其提高效率、创造力和决策能力的能力。让我们来看看企业运营的十大AI技术：

微软微软宣布推出一款专为人工智能设计的全新 Copilot+ PC，使用Arm架构的高通处理器。ARM 成就了 AI PC。

2012年，三星发布了第一款采用Arm架构的Chromebook，这款电脑搭载了三星Exynos 5250芯片。

在 NVIDIA GTC 2024 主题演讲中，黄仁勋推出了Blackwell B200 张量核心芯片，这是该公司最强大的单芯片 GPU，拥有 2080 亿个晶体管，Nvidia 声称该芯片可以将 AI 推理运营成本（例如运行ChatGPT）和能耗比前辈H100降低多达 25 倍。该公司还推出了 GB200，这是一款“超级芯片”，结合了两个 B200 芯片和一个 Grace CPU，可提供更高的性能。

这一消息是 Nvidia 年度 GTC 会议的一部分，该会议将于本周在圣何塞会议中心举行。英伟达首席执行官黄仁勋周一下午发表了主题演讲。“我们需要更大的 GPU，”黄仁勋在主题演讲中说道。他说，Blackwell 平台将允许训练万亿参数的人工智能模型，这将使​​当今的生成式人工智能模型相比之下显得很初级。作为参考，OpenAI 于 2020 年推出的 GPT-3 包含 1750 亿个参数。参数数量是 AI 模型复杂性的粗略指标。