Балансировка нагрузки по жестким дискам

[Akmetra 0]

Доброго дня!

 

Вопрос следующий:

Регистратор на базе Линии 8.х, ОС - Windows Server.

 

Диски для хранения подключены как одиночные, подмонтированы как C:\Video\Disk01... DiskXX

 

Распределение групп камер по дискам в админке сделано вручную, привязка групп к дискам - тоже.

 

Т.к. нагрузка на отдельные камеры непредсказуемая, нагрузка по записи (очередь) на отдельные диски - тоже. Как и глубина хранения.

 

Есть ли какой-то механизм, или - разрабатывается ли в перспективе какой-то механизм, позволяющий распределять потоки по группе одиночных дисков, с целью балансировки?

 

RAID здесь неприемлем, из-за объемов данных как минимум. Сейчас в систему добавляется еще 24 диска, обновим группы камер - но это останется узким местом в любом случае.

[Станислав 0]

Здравствуйте! 

Вы всё правильно написали, решением в указанной Вами ситуации будет именно RAID или нормальная настройка групп в соответствии с рекомендациями.  Если речь только о разной глубине архива в разных группах - ограничьте глубину настройками.  

Рекомендации по выбору HDD и построению архива https://devline.ru/recommendations_HDD

 

[Akmetra 0]

Я не вижу плюсов от RAID:

 

1) Сборка дисков в массив приведет либо к чудовищной деградации IOPS при отказе одного из дисков во время rebuild, а он будет по определению очень долгим (0,5-0,7 Пб объема), либо в случае RAID0 - к гибели всех данных при потере любого из дисков, что неприемлемо.

2) При выборе RAID10 - очень дорого по оверхэду, 50% ёмкости. Будет ли оно того стоить в плане обработки 200+ потоков - большой вопрос.

3) При выборе RAID50 и RAID60 - опять же чудовищный оверхэд и долгий rebuild..

4) Добавление SSD кэша, при переходе на связку Linux + zfs - при текущих объемах записи - будем как семечки менять SSD диски, плюс нетривиальной задачей будет настройка исходная.

 

"Нормальная настройка групп" - в любом случае ручная, у нас нет понимания в моменте, какие камеры более нагруженные (где больше движения -> где требуется больше пространства для хранения). А у сервера Линии исторические данные могут быть - понимание объемов с каждого канала за период, понимание нагрузки на конкретные группы дисков.

 

Но тут я уже начинаю намекать на перестройку архитектуры хранения видезаписей, которое породит новые проблемы - фрагменты видео с одних и тех же каналов будут размещаться непредсказуемым образом, и индекс нужно будет хранить особо тщательно. Замкнутый круг.

 

Поинтересуюсь как у конкурентов это реализовано на больших регистраторах.

 

Вопрос!

При перенастройке групп, у которых уже есть записанные на диск "X" ( в директорию "Y", не суть) данные - что происходит? Если имеющиеся группы я переиграю и разнесу по новым дискам, свежие данные потекут на новые, на старые запись с этих камер прекратится, замещение будет происходить как всегда?

 

Есть ли команда для перепроверки архива / БД записей? В некоторых разделах я вижу "устаревшие" на несколько месяцев папки с фрагментами видео, к примеру.

[Станислав 0]

Здравствуйте! 

 

Цитата

При перенастройке групп, у которых уже есть записанные на диск "X" ( в директорию "Y", не суть) данные - что происходит?

 

Старые записи останутся на старом каталоге и будут постепенно удаленны. 

Новые пишутся на новый каталог. 

Никаких дополнительных действий от пользователя не требуется. 

 

Цитата

Есть ли команда для перепроверки архива / БД записей? В некоторых разделах я вижу "устаревшие" на несколько месяцев папки с фрагментами видео, к примеру.

 

Нет.

«Линия» помечает как удалённые папки вида \2025-04-03\ . Если с HDD всё в норме и дисковая подсистема справляется - всё должно быть нормально. Проверьте, если этих дат фактически в архиве нет и они Вам не нужны - попробуйте удалить вручную. 

Пришлите, пожалуйста, сбор сведений о системе личным сообщением. 

[mrStep 0]

Включусь в обсуждение. Тема действительно актуальная.

Цифры условны.

Есть 100 камер. Дисков 10 штук одинакового размера.

Cam-1...Cam-10 пишем на Диск-1

Cam-11...Cam-20 пишем на Диск-2

...

Cam-91...Cam-100 пишем на Диск-10

Камеры разные, потоки с камер разные.

В итоге получается что глубина архива камер из первой группы 14 дней, из второй группы 60 дней, из 3 группы 45 дней.... короче: очень разная глубина архива на разных камерах, которые вообще могут висеть рядим друг с другом. И по прошествии какого-то времени начинаешь в ручном режиме перемещать камеры из одной группы в другую, дабы хоть как-то выровнять по глубине.

 

В 09.04.2025 в 17:12, Станислав сказал:

Если речь только о разной глубине архива в разных группах - ограничьте глубину настройками.

Если я второй группе камер, которые пишут 60 дней ограничу глубину архива 30-тью днями, первая группа камер, которая писала всего 14 дней не не будет писать больше. Просто получим что на дисках остается куча неиспользуемого пространства.

 

Можно все 100 камер писать на группу из 10 дисков. Но в таком случае сначала все эти 100 камер пишут на первый диск (а вывозит ли он вообще такую нагрузку?) После того как он заполнился, начнется запись на следующий диск.

 

Хотелось бы чтобы система сама автоматом распределяла нагрузку. Если пользователь не ограничил какой-то группе камер глубину архива, то считаем что надо использовать максимум доступного дискового пространства

 

 

[Станислав 0]

Здравствуйте! 

 

Цитата

Хотелось бы чтобы система сама автоматом распределяла нагрузку. 

 

Это функционал RAID контролёров и/или операционной системы. 

В «Линии» есть возможно вручную распределить камеры по группам, если RAID решено не использовать. 

Так-же доступны настройки дублирующей группы, варианты построения:

• можно дублировать запись для всех камер ( аналог RAID 1);
• можно дублировать запись только для выбранных камер и/или потоков;
• можно использовать в дублирующей группе сетевой каталог для записи (резервное копирование)

 

 

[alex9137 0]

В качестве предложения... в мониторинге во вкладке архив, реализовать какую либо таблицу в которой будет видно статистику занимаемого места на диске за сутки, за неделю, по каждой камере. Тогда можно будет в ручную прикинуть обьем по каждой камере и более точно организовать распределение групп камер по дискам.

[Станислав 0]

Здравствуйте! 

Эту информацию и сейчас можно получить средствами операционной системы. 

После первых балансировок эта таблица будет вызывать только массу вопросов, поскольку записанный архив фактически не перемещается. 

Точную глубину можно задать только ограничением по количеству дней, взяв за основу режим постоянной записи. 

Но давайте попробуем собрать комментарии / замечания по Вашему предложению.  

[alex9137 0]

Средствами ОС да можно, но если камер 50+ и дисков 5+ то надо потратить достаточное количество времени чтоб собрать статистику по обьему по каждой камере за 7 дней к примеру, либо если ктото силен то некий скрипт написать. Просто как мне кажется если понять обьем по каждой камере за 7 дней, за 7 потому что на некоторых предприятиях сб вс выходной, то тогда более менее точно можно рассчитать и уровнять количество дней на архивных дисках с погрешностью +-3 дня.

[Станислав 0]

Давайте попробуем собрать комментарии / замечания по Вашему предложению в этой теме. 

Благодарим за содействие в развитии системы «Линии»!