RUUZEN
ИИ

Игровой ноутбук протестировали в роли локальной ИИ-станции для программирования

Энтузиаст проверил возможности MAIBENBEN X17F с RTX 5060 при запуске крупных языковых моделей и решении сложных задач на C++ и Rust.

17 ноября, 15:22Oʻzbekcha

Read in English

Игровой ноутбук MAIBENBEN X17F с процессором AMD Ryzen 9 8940HX и видеокартой NVIDIA GeForce RTX 5060 протестировали в качестве локальной ИИ-станции. Эксперимент показал, что даже устройство с 8 ГБ видеопамяти способно запускать крупные языковые модели без подключения к облачным сервисам.

Для испытаний использовали Qwen3.8-Flash-Next Coder, GPT-OSS 20B, Qwen3-Coder-30B-A3B и DeepSeek-Coder-V2-Lite. Модели проверяли с помощью двух движков — Strata и Ollama. В тестовый стенд вошли задачи по созданию аудиосинтезатора на C++20, разработке распределённого хранилища на Rust и поиску ошибок в существующем программном проекте.

Одним из наиболее заметных результатов стала производительность Qwen3.8-Flash-Next Coder. Несмотря на размер около 58,4 ГБ, модель выдавала в среднем 41 токен в секунду на коротких запросах и 39,6 токена в секунду при продолжительной генерации. В отдельных раундах исправления кода скорость достигала 75–83 токенов в секунду.

Для работы с такими моделями использовались одновременно видеопамять GPU и оперативная память ноутбука. Автор эксперимента также отметил необходимость настройки файла подкачки Windows и производительного режима устройства. При этом тестирование выявило проблемы с длинными контекстами, работой движков инференса и системными механизмами защиты Windows 11.

Эксперимент продемонстрировал, что запуск крупных ИИ-моделей локально возможен даже на игровом ноутбуке среднего класса, хотя производительность и стабильность зависят от настроек программного обеспечения и доступной памяти.