Глава компании AMD Лиза Су продемонстрировала инновационный мини-ПК стоимостью 1500 долларов, способный запустить нейросетевую модель с 235 миллиардами параметров непосредственно на рабочем столе пользователя.

НОВАЯ ЭРА ЛОКАЛЬНОГО ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

Традиционно для работы с такими мощными моделями требовались дорогостоящие дата-центры или облачные сервисы, аренда мощных графических карт и значительные вычислительные ресурсы. Однако новинка от AMD предлагает принципиально иной подход – компактное устройство, объединяющее возможности центрального процессора (CPU) и графического ускорителя (GPU) в одном корпусе.

Ключевой элемент новинки – чип Ryzen AI Max+ 395, представляющий собой первый процессор архитектуры x86, где CPU и GPU совместно используют единую память объемом 128 ГБ. Благодаря этому решению даже небольшой по размерам компьютер способен справляться с задачами, ранее доступными лишь мощным серверам.

Особое внимание заслуживает объем выделенной памяти под видеоядро. На операционной системе Linux пользователю доступно более 110 ГБ из общего объема, тогда как современные флагманские видеокарты, такие как NVIDIA RTX 5090 и RTX 4090, предлагают максимум 32 и 24 ГБ соответственно. Таким образом, новая разработка AMD обеспечивает почти трехкратное преимущество по объему доступной памяти.

Практическое применение демонстрирует возможность запуска модели Qwen3 с 235 миллиардами параметров локально, при этом скорость обработки составляет примерно 11 токенов в секунду.

ЭКОНОМИЯ СРЕДСТВ И НЕЗАВИСИМОСТЬ ОТ ОБЛАКОВ

Пользователи, привыкшие оплачивать подписки на популярные нейросетевые сервисы, могут ощутить значительную экономию средств при переходе на локальное решение. Вместо регулярных платежей за использование популярных моделей, таких как Claude Code Max, ChatGPT Pro, Cursor и Gemini, достаточно приобрести единожды компактную коробку AMD и забыть о ежемесячных расходах.

Более того, данные остаются полностью на устройстве пользователя, исключая необходимость передачи конфиденциальной информации третьим лицам и риск внезапных ограничений доступа к сервисам.

Таким образом, AMD открывает новую эру локального искусственного интеллекта, позволяя пользователям самостоятельно решать задачи высокой сложности без необходимости обращаться к облачным провайдерам.

По материалам: Dzen.ru