Krey
Так народ, кто следит за моими изысканиями.
Просто так ставить рекордсайз 4МБ нельзя!
Надо до кучи включать компрессиию и увеличивать время нахождения записей в zil

Сделал так
Теперь при
zfs set special_small_blocks=8K spool
имею крайне низкую занятость special (думаю из-за сжатия)

Пробую скопировать терабайт при спешлаблоке 32к (на пулл 24тб дал зеркало спешл 220гб)

Ещё есть параметры типа dirty чего-то там. С 32гб памяти они меня и дефолтные устраивают, меньше надо считать и, возможно, увеличивать. Они относятся к объёму при котором транзакции из памяти скидываются на диск. До таймаута. Впрочем с пару тройкой нод это тоже не актуально.

При special_small_blocks=8K И БЕЗ КОМПРЕСИИ на сторже special дейс загружается на 1% от данных на винтах
С компрессией и special_small_blocks 64K - В ДВАДЦАТЬ ПЯТЬ РАЗ МЕНЬШЕ

Пул рейдз 5 по 6Тб, зерколо спешл на 220гиг
Пробую zfs set special_small_blocks=512K spool

Притом тут в который раз заиграл параметр включения компрессии
Без компрессии и special_small_blocks=8K на условном терабайте спейшл ест 1% от данных... а С КОМПРЕССИЕЙ - в 25 раз меньше

Prosto
а чего вы хотите добиться? зачем вам хранить хвосты файлов/хорошо сжимаемые блоки на ssd?
я не знаю какой у storj паттерн доступа, если это линейное чтение — никакого прироста не будет.

edo
я не знаю какой у storj паттерн доступа, если это линейное чтение — никакого прироста не будет.


Пытаюсь заюзать пучек затертых ссд 256гиг... остаток 30-50%

За пиво или мешок сухарей принял бы в дар, раз некуда девать)))

Сторж вышел в продакшен!

https://storj.io/blog/2020/03/general-availability-f…ardigrade-is-here

specialdevice
special_small_blocks=8K
recorsize-4Mb
Компрессия включена

нода занимает на 5% меньше места, чем все тоже, но без компрессии и с дефолтным рекордсайзом

Как долго присылают токен для новой ноды? Оправил запрос - уже два дня ничего

Goblin Hero
Как долго присылают токен для новой ноды? Оправил запрос - уже два дня ничего


ВИдел максимум час
Чистите браузер, меняйте IP, мыло, просите родича сделать запрос со своего дома и браузер

Сменил мыло - пришло через минуту. Похоже на один адрес второй токен не дают, хотя написано, что можно.

Goblin Hero
Сменил мыло - пришло через минуту. Похоже на один адрес второй токен не дают, хотя написано, что можно.


Писали, что дают. Как только первый заюзается

Дык первый у меня юзается. Вот уже год )

Goblin Hero
Дык первый у меня юзается. Вот уже год )



А у меня юзался и я его убил случайно... уже даже фантомно не платят за него.
Но ключик тоже не дают

Prosto

Сейчас такие выплаты, что даже свет не окупается (

Sky-er
Сейчас такие выплаты, что даже свет не окупается (


Ну как сказать
Новая нода конечно плакать хочется
А вот 3 старые дали с учетом х2.5 - 15долл
Свет окупился и инет... аммортизация винтов не окупилась
В общем что-то одно из трех не окупается

Запустил новую ноду на том же ip что и старую неделю назад. В день залетает по 180-200 гиг данных. 95% трафика идет с saltlake. Интересно, это реальные данные пользователей или опять какие-то тесты?

Goblin Hero
Запустил новую ноду на том же ip что и старую неделю назад. В день залетает по 180-200 гиг данных. 95% трафика идет с saltlake. Интересно, это реальные данные пользователей или опять какие-то тесты?

Конторка сказала, что нальет всем "воды", что б застолбить себе места
По мере истерик будет немного забирать, что б дать нам денег
По мере прихода РЕАЛЬНЫХ данных - будет удалять воду

Goblin Hero
Откуда у них столько реальных данных?
Последний месяц данные льются со скоростью 5-7 Мбайт\с у всех.
Реальными они могут быть если только пользователям разрешат заливать их бесплатно как делал когда-то Mail.ru со своим 1 ТБ каждому.
А за деньги в новый сервис что-либо лить весьма сомнительное занятие.

Кстати, а как проходят платежи, если несколько нод с одним адресом? Суммируется или на каждую ноду отдельная транзакция?

Каждый спутник каждой ноде отдельно

Привет всем, полгода назад запустил 5 нод с автоматическим обновлением и в общем то забыл о них, наконец руки дошли поглядеть что там, вроде все живо, забито в районе 10Тб причем судя по всему воспринимаются они одной нодой, потому как на всех и трафик и занятое место отличается можно сказать на статистическую погрешность, только ни одна статистика не работает, подскажите ссылки плиз на новые скрипты?

И второй вопрос по оплате:
Prosto
Каждый спутник каждой ноде отдельно

У меня на 5 нодах стоит один и тот же кошелек и приходов от 1 до 3 в начале каждого месяца, а должно быть на сколько я понимаю "кол-во нод" * "кол-во сателитов" ~ 20 перевдов ежемесячно должно быть?

И обновления тут судя по всему важная штука, в марте встали раком обновления и на статистике выплат это реально отражается:

ноя.19 дек.19 янв.20 фев.20 мар.20 апр.20 май.20 июн.20 июл.20
31,50 108,95 89,47 303,34 290,96 120,41 142,38 84,41 58,77

Александр _
а должно быть на сколько я понимаю "кол-во нод" * "кол-во сателитов" ~ 20 перевдов ежемесячно должно быть?

С последней оплаты аггрегируют начисления одним платежом.

Добавление от 23.07.2020 19:07:

Александр _
И обновления тут судя по всему важная штука

Всегда задаётся минимальная версия ноды, ниже которой просто нельзя подключится к сателиту.
Возможно ваши ноды уже дохлые, а то что они хранили распределено между другими операторами.

Krey
Возможно ваши ноды уже дохлые, а то что они хранили распределено между другими операторами.

Да лог вроде выглядит, без ошибок и трафик по всем сателитам есть в веб-инерфейсе... Правда скрипты, кстати Ваши, анализа логов которые у меня правда выдают дисквалификацию...

И по всем сателитам в веб-интерфейсе аудит и аптайм 99-100%....

Обратил внимание, что нода стала 10 Гб оперативки съедать.
Раньше 16 нод забирали 8 ГБ...
Для чего столько памяти забирает нода?

Sky-er
Кэш различный добавили. Ордера, то что у них там serial называется, контракты что-ли. Или слоты на апдейт хз. Чем активность сети больше, тем сильнее кэши растут. Подробнее можно в ченьжлоге на гитхабе посмотреть.

Krey
8 ГБ солидно для одной ноды.
Если запустить две ноды, 16 ГБ подключать?
Они же в самом начале позиционировали запуск на старом ненужном железе, а тут получается нужно уже нормальную железку собирать.

Sky-er
Они же в самом начале позиционировали запуск на старом ненужном железе, а тут получается нужно уже нормальную железку собирать.


При увеличении объема хранения растет нагрузка на диск, который часто не справляется со структурой каталогов и вводом выводом в БД

Sky-er: Обратил внимание, что нода стала 10 ГБ оперативки съедать.

А какого она у вас размера (storage.allocated-disk-space)? У меня 750-гиговая январская нода, пока была молодой, занимала меньше двухсот метров ОЗУ. К концу весны стала занимать около двух гигов всего и полтора резидентно. Сейчас вот опять 805MB/97MB, судя по top(1). FreeBSD, нативный бинарник из портов, никаких контейнеров.

Prosto
При увеличении объема хранения растет нагрузка на диск, который часто не справляется со структурой каталогов и вводом выводом в БД

А есть такие, кто ещё не вынес базы на ссд?

Krey
А есть такие, кто ещё не вынес базы на ссд?


Я например, руки не доходят, мигригую 3 ноды уже месяц с 5*8гиг на 5*8+5*14 С УМЕНЬШЕНИЕМ разделов под метадату

Krey: А есть такие, кто ещё не вынес базы на ссд?
Ну я вот никуда ничего не выносил (и не собираюсь), потому что зачем? Есть к этому какие-то показания?

sP1Sp0pD
Есть к этому какие-то показания?

Ну сейчас их меньше чем раньше. Ещё недавно большие ноды могли и задисквалить в следствии лока базы на много часов при старте ноды, обновы...

Ну и вот вообще, сколько времени у вас проходит от старта до первого аплоада?
В последних версиях не замерял, но ранее разница была чем то между 5сек и полчаса

Исправлено: Krey, 06.08.2020 20:09

sP1Sp0pD
У меня 7 ТБ нода.
Если у вас всего 750 ГБ, то 2 ГБ оперативки для нее это очень много.