多年来,NVIDIA 的 CUDA 软件工具包一直没有原生 Python 支持,开发者可能被 C/C++ 劝退。
在 GTC 2025 上,NVIDIA 宣布其 CUDA 工具包将原生支持并全面集成 Python,开发人员将能够使用 CUDA Python 在 GPU 上直接执行算法计算。
负责任的 AGI 之路
Google DeepMind 发布了一份145页的报告文件An Approach to Technical AGI Safety and Security(PDF),系统阐述了其对AGI安全的态度。
DeepMind缓解AI恶意使用的方法框架
DeepMind将各种风险分为四大类:
- 恶意使用(misuse)
- 模型不对齐(misalignment)
- AI无意中造成伤害(mistakes)
- 系统性失控(structural risk)
“恶意使用”和模型“不对齐”是他们最关心的,前者是坏人用AI做坏事,后者是AI做事的方式与人类期待不同,甚至AI自己偷偷改变目标。
为了应对不对齐问题,DeepMind提出两条防线,灵感来自网络安全与高风险行业(如核能、航空)。
- 第一防线是在训练模型阶段,让AI尽可能“听话”,使用对抗样本,打造尽可能“对齐”的模型。
- 第二防线是在部署推理阶段,让AI就算“不听话”,也要保证别让它乱来。