AI ASSISTANTNvidia випустила відкриті моделі Nemotron 3.5 для корпоративних агентів і ПК
Nemotron 3.5 Super VL на 120 млрд параметрів компанії можуть дотренувати на своїх даних і запускати на власних серверах. Менша Bolt 74B-A9B працює локально на комп'ютерах із чипами RTX Spark.
Що вийшло
Nvidia показала три відкриті моделі для агентів. Найбільша, Nemotron 3.5 Super VL, має 120 млрд параметрів. За словами компанії, у виконанні інструкцій і роботі з інструментами вона не поступається більшій Nemotron 3 Ultra. Модель уже доступна.
Для локальної роботи призначені моделі серії Bolt. Nemotron 3.5 Bolt 74B-A9B міркує в кілька кроків, викликає інструменти й працює з браузером просто на комп'ютері з чипом RTX Spark або на робочій станції DGX Spark. Компактна Bolt E4B для розмовних агентів вийде до кінця жовтня.
Хто вже використовує
Nvidia називає серед користувачів EY, Salesforce, CrowdStrike, Perplexity, Ramp і Skydance. Компанія стверджує, що після дотренування Super VL виконує частину агентних задач швидше за моделі Anthropic та OpenAI.
Для банків, медичних закладів і всіх, хто не може передавати дані стороннім хмарам, це ще один спосіб запускати агентів у своєму контурі: дані не виходять за межі компанії, а модель можна донавчити на власних документах.
Але модель на 120 млрд параметрів потребує серверів із потужними відеокартами. Перш ніж обирати її, порахуйте вартість обладнання і порівняйте з оплатою хмарного API.
Джерела
CTO AI Assistant Agency.
Як ми готуємо новини: агент щодня збирає події з першоджерел і пише чернетку, редактор перевіряє факти й вирішує, чи публікувати.