1、什么是Token？

在生成式人工智能的上下文中，Token（词元）指的是文本处理过程中的最小语义单元，通常是特殊定义下一些字符的集合。这些字符包括字母、数字、标点符号以及特殊字符，如换行符等。Token通常由一个数字来表示，它们是大型语言模型或基础模型消费文本的方式。您向模型提供词语，它会将它们转换为Token。作为一般规则，一个Token通常包含四个英文字符（这大约相当于一个单词的 ¾），或者一个汉字，因此一百个Token大约等于75个英文单词，或者 40～50 个汉字（均包含标点符号）。

尽管人们担心人工智能会取代人类，但大部分“打工人”还是在工作中积极拥抱AI来提高工作效率。根据FlexOS收集的Similarweb网站流量数据，2024年5月份，OpenAI的ChatGPT使用量增长了74%，网站访问量从4月份的18亿次增至31亿次。

ChatGPT是2024年5月份全球工作中使用最多的生成式人工智能工具，紧随其后的竞争对手包括谷歌Gemini和Anthropic的Claude。

本地部署人工智能模型，不仅通过重视和利用资源赋予个人权力，而且还培育出更加分散和民主的数字生态系统。也就是说，不仅增强了隐私和安全性，还引入了个人计算作为数字时代潜在货币的有趣概念。

Ollama是一个易用的本地语言模型运行框架，可以一键启动并运行Meta Llama 3、Microsoft Phi 3、Google Gemma 2和其他更多开源语言模型（很棒，这也是一份很好的开源语言模型清单，和NVIDIA提供的最受欢迎的基础模型列表一样，Llama 3位列第一），并支持自定义模型导入。本文基于 Windows 11 + 32 GB + RTX 2080 Ti + Hollama/Open WebUI + Llama 3/3.1 8B 及 Llama 3.2 Vision 11B 模型实践。

人工智能代理（AI Agents）是人工智能的未来——随着人工智能技术的不断进步，它们正变得越来越流行。

但什么是人工智能代理？它们能用来做什么？——AI 代理是一种可以在环境中自主行动的实体。

在台北举行的 2024 年度 Computex 大会上，英特尔、AMD 和 Nvidia 展示了其最新的数据中心和 AI 套件，并让人对各自路线图的下一步发展有了初步了解。

最令人吃惊的更新之一来自 Nvidia

去年，我们了解到这家 GPU 设计公司正在加快其开发周期，以支持每年一次的发布节奏。在台北的舞台上，Nvidia 首席执行官黄仁勋向我们详细介绍了这家芯片制造商的计划，包括其下一代 GPU 和系统架构的名称 - Rubin。

Nvidia 的路线图现已延伸至 2027 年，其中包括 2026 年推出的全新 Rubin GPU 和 Vera CPU

虽然我们经常关注芯片本身的规格和功能，无论是 H100、GB200 Superchip 还是其 Blackwell Ultra 兄弟，但重要的是要记住这些组件并不是您可以从货架上取下来的独立部件。Nvidia 最高端的加速器不是 PCIe 卡；它们是整个平台。

Raspberry Pi 5 是一款小而强大的计算机，在科技爱好者和工业公司中颇受欢迎，现在它也是一款人工智能计算机。该公司刚刚发布了AI Kit，这是一款价值 70 美元的扩展套件，带有神经网络推理加速器，可用于本地推理。

对于这个新的扩展模块，Raspberry Pi 正在利用其 HAT+ 扩展卡。HAT 是"Hardware Attached on Top"的缩写，公司一直用它来表示可以安装在普通 Raspberry Pi 上的扩展卡。

人工智能技术旨在模仿人类的行为、智力甚至情感。这些技术可以执行复杂的任务，如解决问题、根据数据输入做出决策、识别和解释视觉信息，以及理解和响应书面和口头语言。

在商业领域，人工智能(AI)已广泛应用于各个行业，并展现出其提高效率、创造力和决策能力的能力。让我们来看看企业运营的十大AI技术：

微软微软宣布推出一款专为人工智能设计的全新 Copilot+ PC，使用Arm架构的高通处理器。ARM 成就了 AI PC。

2012年，三星发布了第一款采用Arm架构的Chromebook，这款电脑搭载了三星Exynos 5250芯片。