Radeon rx9070 для llm и остальных нейроночек



Т.к. я ещё тот любитель погонять нейроночки локально, на своём кампуктере, решил я сменить дохленькую rx7600 на что-то помощьнее. Изначально я хотел 9700pro, чтобы с моим ryzen 9700x было идеальное сочетание, но в продаже ни в Сербии ни в Тайланде такой не нашлось.

XFX 9070

Куплена была в тайланде в сентябре 2025 за 22900Бат(710$) и если бы я не протупил в аэропорту, то можно было бь сэкономить ещё 1450Бат(50$).

Размером не такая уж и большая, лишь чуть длиннее моей 2х вентиляторной 7600, а главное белая.

Radeon rx9070 и Linux

Нет никаких проблем с linux. Вытащил старую карту, воткнул новую и всё. Драйвера автоматически подхватились из ядра. Ядро только нужно свежее.

ROCm на 6.16 linux kernell

По состоянию на сентябрь 2025, AMD для проприетарных драйверов ROCm поддерживает тлоько 6.12 ядро, но для нормальной работы карточки нужно 6.16. По этому устанавливаем ROCm на 6.12 ядро, затем отключаем постинстал скрипты для dkms и устанавливаем 6.16. Перезагружаемся и получаем ROCm работающий с открытыми драйверами на 6.16 kernell.

Rx9070 и Linux графические тесты

Т.к. я в игрушки почти не играю, графика будет простенькая в виде glmark2 и furmark:

Тест rx7600 rx9070
glmark2 26494 36132
furmark 96 fps 274 fps

glmark2 похоже не может загрузить современные видеокарты, потому результат не очень отличается.

Rx9070 AI/LLM тесты

А теперь главное для чего я её купил, сводная таблица производительности, тесты на lm-studio 0.3.26 на vulkan драйвере.

Промт для всех тестов звучал как: "Напиши сказку для 40 летнего ребёнка".

GPU Gemma3-12b Gpt-oss-20b Qwen3-30b Gemma3-27b
rx7600 4.17 t/s 22.5t/s 18.77t/s N/A
rx9070 47.54 t/s 42.49t/s 33.34t/s 6.74t/s

Если отбросить непонятную ситуацию с Gemma3-12b, то рост производительности почти в 2 раза. И даже Gemma3-27b стала юзабельна. На rx7600 она можно сказать не работала совсем, я её даже тестить не стал.

Rx9070 AI/Stable Diffusion тесты

Пришло время погенерировать аниме-тяночек. Генерить будем в пресете semi realistic, по 2 картинки для "quality" и "extrim speed" качества. Промт: "Sweet girl drinks milk".

Тест rx7600 rx9070
quality 968с 133с
extrim speed 33с 13.89с

Разница в 7 раз - не честная, я никогда не использовал quality режим на 7600, и по этому не настраивал никаких настроек, а вот под 9070 докрутил --vae-in-fp16 чтобы фильтр помещался в vram и это дало буст в 3 раза.

По этому считаю, разницу по "extrim speed" режиму, и она в 2.3 раза.


Сообщество: AWS

Комментариев(0)


Всего: 0 комментариев на 0 страницах

Ваш комментарий будет анонимным. Чтобы оставить не анонимный комментарий, пожалуйста, зарегистрируйтесь



Сообщества