起原:硬AI
英伟达周二推出了一款名为Jetson Orin Nano Super的生成式AI超等辩论机。英伟达CEO黄仁勋默示,这款开辟者套件通过软件升级已毕了更高性能和更廉价钱,仅售249好意思元,尺寸工整,可放在手掌中,可将生成式AI性能提高高达1.7倍。

该公司默示,这款居品合适营业AI开辟者、爱好者和学生,与其前代居品比拟,其生成式AI推感性能培植了1.7倍,性能提高了70%,每秒不错扩充高达67万亿次的INT8运算(67 INT8 TOPS),内存带宽也培植了50%,达到了102GB/s。
黄仁勋还挑升为这款居品录制了一段视频,如同2021年发布Hopper H100时相似,展现英伟达对这款居品的疼爱。在视频中,黄仁勋默示,从Xavier开动,英伟达就创造了一种新的处理器,也等于机器东说念主处理器,那时没东说念主知说念他们在作念什么。
新的Jetson Orin Nano Super领有快要70兆次的运算技艺,功率25瓦,价钱249好意思元,不错扩充HGX的所有功能,以致是扩充大讲话模子。

他默示,岂论是创建基于检索增强生成(Retrieval-Augmented Generation, RAG)的大型讲话模子(LLM)聊天机器东说念主,构建视觉AI代理,已经部署基于AI的机器东说念主,Jetson Orin Nano Super王人是理念念的取舍,这款套件王人能以更低的老本提供远大的运算服从,主要由于居品因循低功耗贪图,能以7瓦到25瓦的功耗运行,合适各式边际诞生云算场景,岂论是智能城市、智能农业已经机器东说念主开辟。
抓续培植的性能和体验
通过软件更新,Jetson Orin Nano Super也将为已有Jetson Orin Nano开辟者套件的用户培植生成式AI性能。
黄仁勋默示,Jetson Orin Nano Super相等合适那些但愿在生成式AI、机器东说念主时间或辩论机视觉鸿沟发展手段的东说念主士。在AI鸿沟从任务专用模子向基础模子滚动的趋势下,它也为开辟者提供了一个将创意变为实践的易用平台。
为生成式AI提供强盛性能
Jetson Orin Nano Super性能增强,为所有流行的生成式AI模子,举例Meta的LLaMA、阿里巴巴的通义千问以及谷歌的Gemma。这款套件基于Transformer的辩论机视觉模子带来了权贵培植,进一步培植服从施展。

该公司默示,开辟者套件包括一个Jetson Orin Nano 8GB 系统模块(SoM)和一个参考载板,为边际诞生AI足下的原型贪图提供了理念念平台。
系统模块遴选NVIDIA Ampere架构GPU,配备张量辩论中枢(Tensor Cores)和6核 Arm CPU,或者处理多个并行AI足下管说念,并提供高性能推理技艺。此外,它还因循最多四个录像头,鉴别率和帧率均高于前代版块。
英伟达强调,跟着AI时间缓缓从云霄走向终局,实体AI将是下一波发展要点,Jetson Orin Nano Super不仅不错用于开辟聊天机器东说念主,也合适简历视觉AI代理或部署AI机器东说念主等足下。
平日的生成式AI软件生态系统与社区
此外,英伟达Jetson AI实验室提供对最新开源社区模子的因循,以及易于使用的教程。开辟者还不错从更平日的Jetson社区赢得因循,并从其他开辟者的形貌中赢得灵感。
Jetson因循英伟达的AI软件,包括用于机器东说念主时间的NVIDIA Isaac、用于视觉AI的NVIDIA Metropolis和用于传感器处理的NVIDIA Holoscan。通过NVIDIA Omniverse Replicator生成合成数据,以及使用NVIDIA TAO器具包微调来自NGC目次的预测验AI模子,开辟时候不错大幅裁汰。
Jetson生态系统相助伙伴提供非凡的AI和系统软件、开辟器具以及定制软件开辟职业。他们还提供与录像头过火他传感器关联的因循,以及载板和居品科罚决策的贪图职业。
为所有Jetson Orin用户解锁性能培植:Super方式
英伟达也告示将为Jetson Orin NX和Nano系列的系统模块提供软件更新,让它们也能享受到Super方式的性能培植,最高可达70%。这些更新将通过Jetpack SDK管制器发布在英伟达网站和GitHub上。

Jetson Orin Nano Super Developer Kit预测很快就默契过众人经销商开动供货。关于念念要初学AI开辟的学生、工程师或创客来说,这款开辟套件提供了一个经济实惠且功能远大的平台取舍。
英伟达将Jetson Orin Nano Super Developer Kit定位为鼓吹生成式AI时间普及化的要津居品,但愿在智能交通、零卖管制以及物联网(IoT)足下中大放异彩。

包袱剪辑:丁文武