西方14147大但人文艺术_文化新闻_英伟达推出仅249美元的AI超级电脑西方14147大但人文艺术生成式AI性能提高达1.7倍

英伟达推出仅249美元的AI超级电脑西方14147大但人文艺术生成式AI性能提高达1.7倍_ZAKER新闻

毕力夫

作者：赵雨荷来源：硬 AI英伟达周二推出了一款名为 Jetson Orin Nano Super 的生成式 AI 超级计算机。英伟达 CEO 黄仁勋表示，这款开发者套件通过软件升级实现了更高性能和更低价格，仅售 249 美元，尺寸小巧，可放在手掌中，可将生成式 AI 性能提高高达 1.7 倍。该公司表示，这款产品适合商业 AI 开发者、爱好者和学生，与其前代产品相比，其生成式 AI 推理性能提升了 1.7 倍，性能提高了 70%，每秒可以执行高达 67 万亿次的 INT8 运算（67 INT8 TOPS），内存带宽也提升了 50%，达到了 102GB/s。黄仁勋还特意为这款产品录制了一段视频，如同 2021 年发布 Hopper H100 时一样，展现英伟达对这款产品的重视。在视频中，黄仁勋表示，从 Xavier 开始，英伟达就创造了一种新的处理器，也就是机器人处理器，当时没人知道他们在做什么。新的 Jetson Orin Nano Super 拥有将近 70 兆次的运算能力，功率 25 瓦，价格 249 美元，可以执行 HGX 的所有功能，甚至是执行大语言模型。他表示，无论是创建基于检索增强生成（Retrieval-Augmented Generation, RAG）的大型语言模型（LLM）聊天机器人，构建视觉 AI 代理，还是部署基于 AI 的机器人，Jetson Orin Nano Super 都是理想的选择，这款套件都能以更低的成本提供强大的运算效能，主要由于产品支持低功耗设计，能以 7 瓦到 25 瓦的功耗运行，适合各种边缘设备云算场景，无论是智能城市、智能农业还是机器人开发。持续提升的性能和体验通过软件更新，Jetson Orin Nano Super 也将为已有 Jetson Orin Nano 开发者套件的用户提升生成式 AI 性能。黄仁勋表示，Jetson Orin Nano Super 非常适合那些希望在生成式 AI、机器人技术或计算机视觉领域发展技能的人士。在 AI 领域从任务专用模型向基础模型转变的趋势下，它也为开发者提供了一个将创意变为现实的易用平台。为生成式 AI 提供强劲性能Jetson Orin Nano Super 性能增强，为所有流行的生成式 AI 模型，例如 Meta 的 LLaMA、阿里巴巴的通义千问以及谷歌的 Gemma。这款套件基于 Transformer 的计算机视觉模型带来了显著提升，进一步提升效能表现。该公司表示，开发者套件包括一个 Jetson Orin Nano 8GB 系统模块（SoM）和一个参考载板，为边缘设备 AI 应用的原型设计提供了理想平台。系统模块采用 NVIDIA Ampere 架构 GPU，配备张量计算核心（Tensor Cores）和 6 核 Arm CPU，能够处理多个并行 AI 应用管道，并提供高性能推理能力。此外，它还支持最多四个摄像头，分辨率和帧率均高于前代版本。英伟达强调，随着 AI 技术逐渐从云端走向终端，实体 AI 将是下一波发展重点，Jetson Orin Nano Super 不仅可以用于开发聊天机器人，也适合简历视觉 AI 代理或部署 AI 机器人等应用。广泛的生成式 AI 软件生态系统与社区此外，英伟达 Jetson AI 实验室提供对最新开源社区模型的支持，以及易于使用的教程。开发者还可以从更广泛的 Jetson 社区获得支持，并从其他开发者的项目中获得灵感。Jetson 支持英伟达的 AI 软件，包括用于机器人技术的 NVIDIA Isaac、用于视觉 AI 的 NVIDIA Metropolis 和用于传感器处理的 NVIDIA Holoscan。通过 NVIDIA Omniverse Replicator 生成合成数据，以及使用 NVIDIA TAO 工具包微调来自 NGC 目录的预训练 AI 模型，开发时间可以大幅缩短。Jetson 生态系统合作伙伴提供额外的 AI 和系统软件、开发工具以及定制软件开发服务。他们还提供与摄像头及其他传感器相关的支持，以及载板和产品解决方案的设计服务。为所有 Jetson Orin 用户解锁性能提升：Super 模式英伟达也宣布将为 Jetson Orin NX 和 Nano 系列的系统模块提供软件更新，让它们也能享受到 Super 模式的性能提升，最高可达 70%。这些更新将通过 Jetpack SDK 管理器发布在英伟达网站和 GitHub 上。Jetson Orin Nano Super Developer Kit 预计很快就会通过全球经销商开始供货。对于想要入门 AI 开发的学生、工程师或创客来说，这款开发套件提供了一个经济实惠且功能强大的平台选择。英伟达将 Jetson Orin Nano Super Developer Kit 定位为推动生成式 AI 技术普及化的关键产品，希望在智能交通、零售管理以及物联网（IoT）应用中大放异彩。本文来自微信公众号 " 硬 AI"，关注更多 AI 前沿资讯请移步这里