多年来,NVIDIA 的 CUDA 软件工具包一直没有原生 Python 支持,开发者可能被官方编程语言 C/C++ 劝退。

467cc713-python-logo-square-1024x576.jpg

在 GTC 2025 上,NVIDIA 宣布其 CUDA 工具包将原生支持并全面集成 Python,开发人员将能够使用 CUDA Python 在 GPU 上直接执行算法计算。


负责任的 AGI 之路


Google DeepMind 发布了一份145页的报告文件An Approach to Technical AGI Safety and Security(PDF),系统阐述了其对AGI安全的态度。

ea10c565-5615-46f9-ab7b-42c37ebc2405.png
DeepMind缓解AI恶意使用的方法框架

DeepMind将各种风险分为四大类:

  • 恶意使用(misuse)
  • 模型不对齐(misalignment)
  • AI无意中造成伤害(mistakes)
  • 系统性失控(structural risk)

“恶意使用”和模型“不对齐”是他们最关心的,前者是坏人用AI做坏事,后者是AI做事的方式与人类期待不同,甚至AI自己偷偷改变目标。

为了应对不对齐问题,DeepMind提出两条防线,灵感来自网络安全与高风险行业(如核能、航空)。

4e515421-ed99-4637-aa4c-352aa11f1a49.png

  • 第一防线是在训练模型阶段,让AI尽可能“听话”,使用对抗样本,打造尽可能“对齐”的模型。
  • 第二防线是在部署推理阶段,让AI就算“不听话”,也要保证别让它乱来。
👍

本文由 cds 整理发布,参考 CC-BY-SA 3.0 协议共享,欢迎转载、引用或改编。
感谢您的支持,以共同推动STEM公益教育!

楼主残忍的关闭了评论