Только что прочитал слухи о RTX 5090 с 28 GB памяти. Цифра красивая, но давайте считать: при 512-bit шине и GDDR7 на 28 Gbps — это 1792 GB/s пропускной способности. Теоретически.
Проблема в том, что для инференса важна не только ширина шины, но и latency. И если NVIDIA пойдёт по пути HBM, как в M7 Ultra, то термопакет станет главным ограничением.