Перепробовал все что можно, даже кабеля дома все переобжал))) И даже опять запустил свой старенький Synology DS713+ чтобы сравнивать параллельно. Может конечно и не в сетевой системе дела, а системе хранения ESXi. Но то, что это косяк гипервизора - точно. При использовании сетевой 10G скорость на отдачу с виртуальной машины чуть меньше 1G. Не глобально, но все же. Грубо говоря 0.9G)) Скорость на прием в виртуальную машину в районе 0.6G. Из виртуалок пробовал Windows 10 Pro, XPenology 7.2 c свежим загрузчиком ARC. Для теста расшаривал папку в винде и копировал туда сюда отсюда и всяко разно.

Конфигурация такая:
ESXI 6.7, два аплинка 10G и 1G. Как только не настраивал виртуальный свитч и группы портов. По адекватному: 10G на виртуалки (1G - резерв), 1G на управление (10G резерв). На автоматическим балансировщиком, без резервов. Картина по скорости как писал выше. Как только ставлю линк 10G неактивным, так сразу скорость практически полный гигабит хоть от куда хоть куда.
Ставил Windows 10 Pro на голое железо. Скорость ограничивается сетевыми других машин 1G - но картинка вообще прелесть, даже без микропровалов и на скачивание и на отдачу

в ESXI диски подцеплены через рейд контроллер Adaptec 8805 (драйвера стоят). Одно зеркало на 4Tb, пара SSD как простые тома. В XPenology пробовал и прямой проброс диска и стандартные файлы датастора. Пробовал цеплять диск на прямую к материнке, чтоб исключить рейд контроллер. Дисковая система никак не влияет.
В общем получается, что глюки все же в гипервизоре/драйверах. Но драйверами тоже игрался. Наигрался))
В обще ESXi нравится все меньше и меньше. Каких-то мелких глюков все больше и больше. Сильно удивился с косяком добавления существующего диска через вебинтерфейс. И это годами не фиксят. Понятно, что у разработчиков нацеленность на большой бизнес, но все же... Да еще и доступ к базе знаний прикрыли... Ну и ладно)))