Producătorul de plăci grafice și compania de inteligență artificială NVIDIA a anunțat un nou kit pentru dezvoltatori, care costă 249 dolari și care poate rula 70 de mii de miliarde de operațiuni pe secundă.
Noul NVIDIA Jetson Orin Nano Super este „o soluție ideală” pentru crearea de „roboți” conversaționali, agenți vizuali sau roboți bazați pe AI, potrivit spuselor companiei.
Gama Jetson Nano a fost lansată de gigantul american în anul 2019, potrivit The Verge, ca o modalitate mai ieftină pentru pasionați și producători de a alimenta proiecte de robotică și inteligență artificială.
NVIDIA spune că procesarea neurală a Nano Super este cu 70% mai mare, la 67 TOPS, decât 40 TOPS Nano. De asemenea, are cu 50% mai multă lățime de bandă de memorie, la 102 GB/s, ceea ce ar trebui să accelereze aceste operațiuni.
? NVIDIA Introduces Jetson Nano Super
> compact AI computer capable of 70-T operations per second
> designed for robotics, it supports advanced models, including LLMs, and costs $249 pic.twitter.com/hVoTSvSupB
— Haider. (@slow_developer) December 17, 2024
Noul kit folosește același hardware ca modelul original Orin Nano și va deveni mai performant cu o actualizare a kitului software. Compania spune că diferența vine din „un nou mod de alimentare care crește GPU-ul, memoria și ceasurile CPU”.
Actualizarea kitului software oferit de NVIDIA va fi disponibilă și pe modelul original, potrivit unui anunț al companiei.
Sistemul compact poate rula o gamă largă de LLM-uri, VLM-uri și transformatoare de viziune (ViT), de la modele mai mici până la cele cu parametri de până la 8B, cum ar fi modelul Llama-3.1-8B al Meta.
Kitul de dezvoltare include o placă de referință și un sistem pe modul Jetson Orin Nano de 8 GB, compus dintr-un GPU Nvidia Ampere cu nuclee tensoriale și procesor Arm cu 6 nuclee.