人工智能健康助手OpenHealth的本地部署指南


本文简要介绍在Windows计算机以Docker方式本地部署人工智能应用OpenHealth的过程。

182871266.webp

OpenHealth是一个人工智能健康助手,通过本地运行的人工智能框架和个人健康信息运行。系统由解析和LLM两个主要组件组成。目前,解析使用Upstage和OpenAI API(在我们的测试中表现最佳),本地解析器即将推出。LLM组件可以使用Ollama在本地完全运行。


即将颠覆世界的六个年轻“志愿者”


六位未满25岁的科技天才是马斯克DOGE(政府效率部)的“六君子”(《每日邮报》称为“书呆子大军”)。他们手握AI、数据科学和自动化技术,意图用代码取代政客,用算法消灭低效,以科技之力撬动整个国家机器。

94835251-0-image-a-86_1738648179553.jpg

由于信奉(1)未来十年全球风险集中在环境、技术和社会治理(世界经济论坛《2024年全球风险报告》),和(2)全球治理转型、人工智能技术和特朗普新政加速旧国际秩序崩溃这两个理论和判断,转发本文以介绍人工智能、数据科学和自动化应用于社会治理。


DeepSeek


深度求索(DeepSeek)是由中国对冲基金幻量化(High-Flyer)创立和支持的人工智能公司。2024年12月,该公司将其人工智能模型 DeepSeek-V3 版作为开源发布,声称该模型可与 OpenAI 和谷歌的模型相媲美,但训练成本仅为 560 万美元(尚不清楚具体包括哪些支出,但推测是该模型使用 2,048 个 NVIDIA H800 GPU 进行了约两个月预训练的 GPU 成本)。

ff6d4aae-33d6-4cdd-b861-d98e312a5452.jpg

DeepSeek在网页端、APP 和 API 全面上线,可以写代码、读文件、写作各种创意内容,该模型正受到越来越多的关注。在Vibe-Eval基准测试中是迄今为止排名最高的公开授权模型,也是目前最大的公开授权模型,比 Meta 公司最大的 Llama 系列模型 Llama 3.1 405B 还要大得多。


NVIDIA Project DIGITS个人AI超级计算机


2025 年 1 月 6 日,NVIDIA 推出了 NVIDIA® Project DIGITS,这是一款个人 AI 超级计算机,可让全球的 AI 研究人员、数据科学家和学生使用 NVIDIA Grace Blackwell 平台的强大功能。

NVIDIA Project DIGITS

Project DIGITS 采用全新的 NVIDIA GB10 Grace Blackwell 超级芯片,提供千万亿次的 AI 计算性能,可用于原型设计、微调和运行大型 AI 模型。


人们是如何使用人工智能的


ChatGPT 将生成式 AI 带入主流已有一年多时间。在此期间,我们对大型语言模型(LLM)的当前效用和未来影响感到兴奋不已。这些工具每周已有数亿用户,分析师预计它们将为经济贡献数万亿美元,而且现在 OpenAI 的可靠竞争对手越来越多。

Mar24_19_TravisConstantine-1024x576.jpg

然而,人们也有很多担忧。企业恐怖故事、政策限制和幻觉让人们对部署 GenAI 犹豫不决,这是可以理解的,而普遍的技术恐惧症意味着全球大多数人仍未尝试过它。即使在全球十亿知识工作者中,也只有 10% 的人定期使用 ChatGPT(占有60% 的市场份额)。在使用过 ChatGPT 的人中,许多人抱怨它根本没用:“当我想到 ChatGPT 时,我脑海中没有出现任何用例,每个人都为它疯狂,”一位用户哀叹道。其他人则认为这项技术存在错误:“它在很多事情上都完全错误,让我对它的所有答案都产生了怀疑,”另一位用户说。


李开复梳理人工智能


阮一峰在科技爱好者周刊(第 330 期)中结合李开复的《AI·未来》(浙江人民出版社,2018)和《AI·未来进行式》(浙江人民出版社,2022)两本书,梳理了书中阐述的人工智能概念。

bg2024121701.jpg

李开复(Kai-Fu Lee)本是一名计算机科学家,获得哥伦比亚大学计算机科学学士学位和卡内基梅隆大学计算机科学博士学位,主要研究语音识别,曾在Apple和Silicon Graphics的技术部门工作,并领导Microsoft和Google的中国部门。在打工近20年后,李开复建立了风险投资基金创新工场(Sinovation Ventures),为早期互联网初创公司提供种子资金。2023 年,李开复创立了人工智能初创公司 01.AI,专注于为中国市场构建大型语言模型。


2025年六大AI趋势展望


6 AI trends you’ll see more of in 2025 by Paul Nyhan @news.microsoft.com——随着2025年的临近,人工智能正逐步从辅助工具演变为工作与生活中不可或缺的伙伴。AI 驱动的代理(agent)将拥有更高的自主性来执行更多任务,从而提升人们的生活质量。人工智能在记忆与推理能力上的创新,也将助力人类社会寻找应对气候变化、医疗健康等重大挑战的新方法。而微软始终致力于帮助人们安全、可靠地构建与使用人工智能。

6-ai-trends-in-2025-1024x576.jpg

“人工智能已经将不可能变为可能,过去一年我们看到众多个人和组织从 AI 实验转向了更多有实际意义的落地应用,”微软业务发展、战略和风险投资执行副总裁 Chris Young 表示,“这是技术全面转型的开始,它将改变我们生活的方方面面。”


NVIDIA 推出最实惠的生成式 AI 超级计算机


现有的 Jetson Orin 开发套件用户只需升级软件即可体验到这种性能提升,因此现在每个人都可以通过生成式 AI 解锁新的可能性。

ae1503fa-3f2a-4612-9c89-b7fb7fc05a4d.jpg

英伟达2024年12 月 17 日推出了一款名为Jetson Orin Nano Super Developer Kit的生成式AI超级计算机。英伟达CEO黄仁勋表示,这款开发者套件通过软件升级实现了更高性能和更低价格,仅售249美元,尺寸小巧,可放在手掌中,可将生成式AI性能(比较Jetson Orin Nano)提高高达1.7倍。