📢 转载信息
原文链接:https://blogs.nvidia.com/blog/dgx-spark-higher-education/
原文作者:Max Starubinskiy
在全球领先的机构中,NVIDIA DGX Spark 桌面级超级计算机正在将数据中心级的AI能力带到实验室工作台、教职员工办公室和学生的系统中。甚至有一台 DGX Spark 正在南极的威斯康星大学麦迪逊分校运营的 IceCube 中微子观测站辛勤工作着。
这款紧凑型超级计算机的每秒千万亿次浮点运算级别性能,使得从临床报告评估器到机器人感知系统等大型AI应用能够实现本地部署,同时确保敏感数据保留在本地,并缩短研究人员和学习者的迭代周期。
每台 DGX Spark 单元均由 NVIDIA GB10 超级芯片和 NVIDIA DGX 操作系统提供支持,可支持高达 2000 亿参数的 AI 模型,并与 NVIDIA NeMo、Metropolis、Holoscan 和 Isaac 平台无缝集成,让学生能够使用贯穿整个 DGX 生态系统的专业级工具。
请在下方阅读更多关于 DGX Spark 如何助力全球领先机构进行开创性AI工作的内容。
IceCube 中微子观测站:在南极研究粒子
在威斯康星大学麦迪逊分校位于南极的 IceCube 中微子观测站,研究人员正在使用 DGX Spark 运行 AI 模型,以研究宇宙中最具灾难性的事件,这些事件涉及一种称为中微子的亚原子粒子。
据威斯康星冰立方粒子天体物理中心计算主任 Benedikt Riedel 介绍,基于检测光波的传统天文学方法可以观测到已知宇宙的大约 80%。而使用引力波和中微子等粒子探索宇宙的新方法,则可以研究包括超新星和暗物质在内的最极端的宇宙环境。
Riedel 说:“南极 technically 是一个沙漠,相对湿度低于 5%,海拔 10,000 英尺,基本上没有五金店,电力非常有限。DGX Spark 让我们能够在这样一个极其偏远的环境中,以低成本、模块化的便捷方式部署 AI,以便在本地对我们的中微子观测数据进行 AI 分析。”
纽约大学 (NYU):使用代理式 AI 进行放射学报告评估
在纽约大学的全球 AI 前沿实验室(Global AI Frontier Lab),ICARE(可解释和临床基础的基于代理的报告评估)项目完全在 DGX Spark 上端到端运行。ICARE 使用协作的 AI 代理和多项选择题生成来评估 AI 生成的放射学报告与专家来源的吻合程度,无需将医疗影像数据发送到云端,即可实现实时临床评估和持续监控。
纽约大学数据科学中心教员研究员 Lucius Bynum 说:“能够在 DGX Spark 上本地运行强大的 LLM 完全改变了我的工作流程。我能够专注于快速迭代和改进我正在开发的这个研究工具。”
纽约大学的研究人员还使用 DGX Spark 本地运行 LLM,作为交互式因果建模工具的一部分,这些工具生成并完善语义因果模型——这是临床变量、影像结果和潜在诊断之间因果关系的结构化、机器可读的地图。这种设置使团队能够快速设计、测试和迭代先进模型,而无需等待集群资源,特别适用于医疗保健等数据必须保留在本地的隐私和安全敏感应用。
哈佛大学:用 AI 解码癫痫
在哈佛大学的 Kempner 自然与人工智能研究所(Kempner Institute for the Study of Natural and Artificial Intelligence),神经科学家们正在使用 DGX Spark 作为紧凑型桌面超级计算机,探究大脑中的基因突变如何驱动癫痫。该系统使研究人员能够实时运行复杂的分析,而无需等待访问大型机构集群。
该团队由 Kempner 研究所联合主任 Bernardo Sabatini 领导,正在研究大约 6000 个兴奋性和抑制性神经元突变,构建蛋白质结构和神经元功能预测图谱,以指导下一步在实验室中测试哪些变异体。
DGX Spark 在哈佛大学充当了台式机计算与集群规模计算之间的桥梁。研究人员首先在单个 DGX Spark 上验证工作流程和时间安排,然后将成功的方法扩展到大型 GPU 集群,以进行大规模蛋白质筛选。
亚利桑那州立大学 (ASU):赋能校园规模创新
亚利桑那州立大学是首批接收多台 DGX Spark 系统的大学之一,这些系统现已支持全校的 AI 研究,涵盖了针对记忆护理、交通安全和可持续能源的倡议。
由计算与增强智能学院副教授 Yezhou “YZ” Yang 领导的一个 ASU 团队,正在利用 DGX Spark 为先进的感知和机器人研究提供动力,包括用于 AI 赋能的搜救机器狗和为视障用户提供的辅助工具等应用。
密西西比州立大学:赋能计算机科学与工程学生
在密西西比州立大学的计算机科学与工程系,DGX Spark 作为下一代 AI 工程师的实践学习平台。
密西西比州立大学对 DGX Spark 的热情体现在实验室驱动的外展活动中,包括一个致力于推进应用 AI、培养 AI 劳动力发展并在全州范围内推动真实世界 AI 实验的实验室创建的开箱视频。
特拉华大学 (University of Delaware):跨学科研究的变革
当华硕(ASUS)交付该校首台搭载 DGX Spark 的 Ascent GX10 时,计算机与信息科学教授兼第一州 AI 研究所所长 Sunita Chandrasekaran 称其“对研究具有变革性”,它使体育分析和沿海科学等跨学科团队能够在校内直接运行大型 AI 模型,而无需依赖昂贵的云资源。通过 ASUS 虚拟实验室计划,学校可以在部署前远程测试 GX10 的性能。
奥地利科学技术学院 (ISTA):在小型桌面上训练大型 LLM
在奥地利科学技术学院,研究人员正在使用基于 NVIDIA DGX Spark 的紧凑型系统 HP ZGX Nano AI Station,直接在桌面上训练和微调 LLM。该团队的开源 LLMQ 软件支持处理多达 70 亿参数的模型,使更多学生和研究人员能够接触到先进的 LLM 训练。
由于 ZGX Nano 包含 128GB 统一内存,整个 LLM 及其训练数据都可以保留在系统上,避免了在消费级 GPU 上通常需要进行复杂的内存管理。这有助于团队加快速度,并将敏感数据保留在本地。请阅读这篇关于 ISTA 的 LLMQ 软件的研究论文。
斯坦福大学:原型设计流水线
在斯坦福大学,研究人员正在使用 DGX Spark 在本地为他们的 Biomni 生物因子工作流程原型设计完整的训练和评估流水线,然后再扩展到大型 GPU 集群。这实现了模型开发和基准测试的紧密迭代循环,并直接在实验室环境中自动化复杂的分析和实验规划。
斯坦福研究团队报告称,DGX Spark 提供了与大型云 GPU 实例相似的性能——在使用 Ollama 对 1200 亿参数的 gpt-oss 模型进行 MXFP4 推理时,大约每秒 80 个 token——同时将整个工作负载保留在桌面上。
我们邀请全球各地的大学生参加 2 月 13 日至 15 日在斯坦福举行的盛大学生黑客马拉松 Treehacks,届时将展示来自华硕的 DGX Spark 单元。
请通过周五(2 月 13 日)太平洋时间上午 9 点的这次直播,了解 DGX Spark 如何正在改变斯坦福大学的_高等教育和学生创新_。
🚀 想要体验更好更全面的AI调用?
欢迎使用青云聚合API,约为官网价格的十分之一,支持300+全球最新模型,以及全球各种生图生视频模型,无需翻墙高速稳定,文档丰富,小白也可以简单操作。
评论区