NASer
имхо, разберите нафиг ваш рейд, и бэкапте... еси и так и так бэкапить, то зачем парится с ребилдом и поиском виноватых?
только при наличии ценной оперативной инфы...

ого как развили тему у меня вопрос по этим трем пунктам:

А что, бывают контроллеры 3405 с батарейкой? Не нахожу на плате под нее места
Кэш на контроллере я так понимаю отключается в биосе самого контроллера, а кеш на дисках?
Нашел в ASM меню: Change write-cache mode to write through но этот пункт не доступен

А не пробовали сразу привести как модели винчестеров, которые используете, так и версию фирмвари контроллера? А то телепатемы плохо от Вас проходят

Добавление от 28.08.2009 09:22:

andy102
А что, бывают контроллеры 3405 с батарейкой? Не нахожу на плате под нее места

А что, сайт производителя на этот счет изображает пионера-партизана?
http://www.adaptec.com/en-US/products/cables/accesso…Adaptec+RAID+3405

Спасибо! батарейка стоит как пол адаптера!

А как же все-таки отключать кеш на дисках?

andy102
Спасибо! батарейка стоит как пол адаптера!
Не с этим надо сравнивать, а со стоимостью тех данных, что она защищает.

тогда вопрос: на сколько надежнее "она" будет защищать эти данные?

Когда грохнется - поймете. Вы не первый экономист...

Добавление от 28.08.2009 14:06:

http://3nity.ru/viewtopic.php?f=24&t=12433

ага, а Вы не первый умник

спасибо за ссылку

Добавление от 28.08.2009 15:08:

спасибо еще раз, форум обладает исчерпывающей информацией, то что надо
http://3nity.ru/viewforum.php?f=24&sid=1a7c85a13…c2103daaf262235fc

andy102
ага, а Вы не первый умник
Он один из первых "мудриков". Таким "монстроидам" нужно в ножки кланяться, а не по-крылову себя вести

andy102
Кэш на контроллере я так понимаю отключается в биосе самого контроллера, а кеш на дисках?
Нашел в ASM меню: Change write-cache mode to write through но этот пункт не доступен
И то, и другое можно отключить как в биосе, так и в ASM. А вот логиниться в ASM (чтобы иметь возможность что-то менять) нужно с паролем (а для того, чтобы это заметить достаточно читать предупреждающие сообщения при запуске ASM, а не пропускать их).

Steve461
Да мы кланяемся кланяемся яж сказал спасибо. Только непонятно - что Вы заступаетесь? Думаю он сам скажет если надо будет.
Тут каждый из нас в чем то "монстроид" и что теперь?

Сегодня проделаю все операции по выключению кеша, надеюсь проблема изчезнет

Не стану создавать новую тему, продолжу старую.
Итак, есть сервер Supermicro, на нем adaptec SATA RAID, RAID1, 6 корзин физических, из них занято было две, иногда три (вставляли диск, он ребилдился, потом его вынимали и так получалась резервная копия всей информации). Потом в один прекрасный момент возникла такая ситуация: 1 диск крутится, все работает (degraded, естественно), все ОК. Вставляем второй, который hotspare - adaptec storage manager пишет "rebuilding" и тут же, через пару секунд - "rebuild complete".
Попытка перезагрузиться с такого "массива" дает ожидаемый результат: "поврежден c:\windows\system".
Более того, после того, как "новый" диск изъят, сервер запускается, а на "старом" обнаруживаются повреждения файловой системы.
И вот с чего бы такому быть?

Perezx
вставляли диск, он ребилдился, потом его вынимали и так получалась резервная копия всей информации

Ну, Вы поняли, да ? Бэкап надо делать по-человечески, а не так.
Быть такому с того, что замена винта - ситуация вообще-то не штатная, а аварийная. И делать такое слишком часто - склонять контроллер и корзину к глюкам. Каковой у Вас и произошел - make online вместо rebuild. Т.е. контроллер счел, что данные на вставленном диске практически актуальны, хотя это и не так.

Я не спорю о правильности метода. Но что такое "слишком часто"?
Опять же - он пишет "rebuilding", т.е. делает вид, что диск перестраивается.
И самый интересный вопрос - как теперь бороться?

Perezx
Но что такое "слишком часто"?
Корзина не расчитана на постоянное дергание винчестеров, т.к. замена накопителя, как уже сказали - "не штатная, а аварийная".

Perezx
И самый интересный вопрос - как теперь бороться?
Переустановить ОС и залить данные из бэкапа. Только нормальным способом.

Огорчительные вещи вы мне говорите
Дистрибутив ОС хрен знает где, бэкапов полных нету. Разобрала, блин, его нелегкая.

Подниму тему.
Я не специалист, сталкиваюсь с серверами иногда.

Сегодня 3405 запищал, что RAID5 degraded, ASM написал, что на одном из дисков идет восстановление:
http://i54.fastpic.ru/big/2012/1227/53/a8841f7dbd57384ffd8f17c821417f53.jpg (1023x767, 116.0Kb)

Это произошло утром, часов в 9, сейчас уже 3 часа дня, а диск до сих пор перестаривается.
Думаю, что это не нормально.
Как выяснить, это больной диск или другая причина сбоя?
Все диски в массиве идентичные:


BBU нет (ищу, где купить, куплю)
Write-back к сожалению включен.
Есть вопрос: буду ставить BBU и отключать кэш - после отключения кэша массив не придется перестраивать?

Исправлено: Anton Klyauzov, 27.12.2012 15:56

Anton Klyauzov
буду ставить BBU и отключать кэш - после отключения кэша массив не придется перестраивать?
Нет.

Думаю, что это не нормально.
Если сервер под нагрузкой, то сроки ребилда непредсказуемы.

Добавление от 27.12.2012 15:56:

Кэш самих дисков желательно выключить.

gss
Если сервер под нагрузкой, то сроки ребилда непредсказуемы.
Спасибо, буду наблюдать.

Если bad stripes нету - значит пока рано бить тревогу и менять диск?
И, если учитывать сообщения этой темы - стоит ли верить контроллеру, что он указывает на конкретный диск в массиве (ну, что именно у него проблемы)?

Добавление от 27.12.2012 16:00:

Кэш самих дисков желательно выключить.
Это прямо сейчас можно сделать, без установки BBU?

И нужно ли перед этим дождаться окончания ребилда?

Дождитесь окончания ребилда.

Anton Klyauzov
стоит ли верить контроллеру
В логах подробнее посмотрите - по какой причине контроллер винт отбрыкнул.

Если bad stripes нету - значит пока рано бить тревогу и менять диск?
Когда будет бэд страйп, тревогу будет бить поздно. Да и они могут появляться и на полностью исправных дисках.

gss
В логах подробнее посмотрите - по какой причине контроллер винт отбрыкнул.
Стыдно признаться, но ASM был установлен уже после получения ошибки

Не вижу особого смысла создавать новую тему - спрошу здесь.
Не специалист в этой области, но надеюсь поможите мне советом, как решить проблему.
Сервер на базе Supermicro, контроллер 51645 с батарейкой, 12 винтов по 2TB, 2 логических диска С-системный, D-c данными.
После переезда в другой офис при первом запуске запищал контроллер, система загрузилась, ASM показал 1 ошибку - bad stripe логического диска С. После запуска Verify with fix и непродолжительной работы система зависла намертво. Помог только хард ресет системы. Система загрузилась, но 2ой винт загорелся красным. ASM показал уже 3 !!! ошибки - Ребилдинг 2го HDD и bad stripes уже обоих логических дисков. После окончания ребилдинга ошибка 2го HDD пропала, но bad stripes обоих логических дисков остались. Verify with fix логического диска D ни к чему не привел. Подскажите, пожалуйста, дальнейшие шаги.

DMU

После окончания ребилдинга ошибка 2го HDD пропала, но bad stripes обоих логических дисков остались. Verify with fix логического диска D ни к чему не привел. Подскажите, пожалуйста, дальнейшие шаги

Bad stripe лечится только пересозданием массива заново. И выясняйте что было с дисками, меняйте если требуется дабы снова не наступить на те же грабли.

Каким образом ? Изучить логи в ASM ? Я видел, что красным загорелся 2ой HDD и Адаптек стал его автоматически ребилдить. Впринципе могу тупо его заменить при пересоздании рейд-массива. Этого достаточно ?

Самое простое это посмотреть SMART диска (ASM это позволяет), если там ничего криминального, то делаете save support archive и потом в этом архиве пристально рассматриваете логи. Проблема в том числе может быть как вариант и из-за корзины (hdd backplane).

Может кому поможет.
Посыпалось несколько массивов в разных серверах (сборка довольно известной компании, платформа supermicro, raid adptec) брали в разное время, стояли в разных местах, контроллеры разных серий и т.д. в общем дело оказалось в кабелях.

SMARTы дисков посмотрел. Особого криминала не нашел. Но нашел пару дисков, за которыми нужно присматривать (скрин диска, который ребилдился). Также выяснил, что на всех HDD был включен кэш на запись, что конечно же сразу же исправил.


Вопрос 1
Я не понял что означает save support archive и как его сделать ? И чем это поможет ?

Вопрос 2
Нашел копию логического диска D с данными полугодовой давности на запасном сервере. Сопоставил размеры - все с точностью до байта и кол-ва файлов совпадает. То есть за это время ничего нового добавленно не было (массив представляет собой хранилище видеофалов), но структура его на диске уже другая (файлы перетасованы по другим папкам). Что посоветуете ? Не рисковать и принять, что старый полугодовалый массив более правильный, так как возможно он делался, когда еще не было bad stripe-ов на основном сервере и использовать его для восстановления основного сервера после ребилда с последующей повторной работой по структуризации файлов, которая уже была проведена на основном сервере. Или все таки попытаться перезаписать на запасной сервер логический диск D с bad stripe ?

DMU

Я не понял что означает save support archive и как его сделать ? И чем это поможет ?

support archive это то, что в первую очередь просит тех. поддержка адаптека при обращении к ним. В этом архиве содержится вся информация о контроллере, массивах и всевозможные логи.
в ASM в левом окне выбираете local host и вверху нажимаете Actions и в выпадающем меню один из пунктов будет Save support archive (пишу по памяти, но кажется так).

DeGlucker спасибо. Вы мне очень помогли.
А по второму вопросу что посоветуете ? Забыть про существующий архив и откатиться на полугодовалой давности ? Ведь как я понял, наличие bad stripe на логическом диске - это 100% потерянная/испорченная информация ?

Часть логов из support archive:

Device event log for controller 1

Vendor/Model S/N (20 chars max) DeviceID(T:L) Parity errors Link errors HW errors Cmd aborts Medium errors SMART error SMART warnings
WDC WD2002FY WD-WCAVY2072347 6(6:0) 0 0 0 0 1 false 0
WDC WD2002FY WD-WCAVY2061884 9(9:0) 0 0 0 0 1 false 0
WDC WD2002FY WD-WCAVY1931194 1(1:0) 0 0 0 10 17 false 0
WDC WD2002FY WD-WCAVY2004674 0(0:0) 0 0 0 3 7 false 0
WDC WD2002FY WD-WCAVY1994457 4(4:0) 0 0 0 1 0 false 0

Defunct drive event log for controller 1

Date and time Vendor/Model S/N (20 chars max) WWN (SAS only) Failure code Description
January 09, 2013 4:48:12 PM MSK WDC WD2002FY WD-WCAVY1931194 0000000000000000 0x2 Selection timeout: device removed or not responding
-----------------------------------------------------------------------------------------------------------------
June 3, 2012 2:33:46 PM MSD INF storage.avant.local Sense data: Medium error (UNRECOVERED READ ERROR). Controller 1, channel 0, SCSI device ID 1, LUN 0, cdb [28 00 10 52 3a 00 00 02 00 00 00 00], data [70 00 03 00 00 00 00 00 00 00 00 00 11 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00]
June 3, 2012 2:33:46 PM MSD WRN storage.avant.local Medium error: controller 1, channel 0, SCSI device ID 1, LUN 0, start LBA 10523a00, end LBA 10523bff, bad block recovery possible
June 3, 2012 2:33:46 PM MSD WRN 418:A01C-S--L-- storage.avant.local Bad Block discovered: controller 1 (10523a00).
......
January 9, 2013 3:19:39 PM MSK INF storage.avant.local Sense data: Medium error (UNRECOVERED READ ERROR). Controller 1, channel 0, SCSI device ID 1, LUN 0, cdb [28 00 01 5c 5c 00 00 02 00 00 00 00], data [70 00 03 00 00 00 00 00 00 00 00 00 11 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00]
January 9, 2013 3:19:39 PM MSK WRN storage.avant.local Medium error: controller 1, channel 0, SCSI device ID 1, LUN 0, start LBA 15c5c00, end LBA 15c5dff, bad block recovery possible
January 9, 2013 3:19:39 PM MSK WRN storage.avant.local Bad block recovery: controller 1, channel 0, SCSI device ID 1, LUN 0, bad block recovery completing
January 9, 2013 3:19:39 PM MSK INF storage.avant.local PPI update. Age 326
January 9, 2013 3:19:39 PM MSK INF storage.avant.local Container changed: controller 1, logical device 0
January 9, 2013 3:19:39 PM MSK INF storage.avant.local PPI update. Age 327
January 9, 2013 3:19:39 PM MSK INF storage.avant.local Failover disk changed: controller 1, logical device 0
January 9, 2013 3:19:39 PM MSK INF storage.avant.local Failover and rebuild operation started on a RAID-5 set: controller 1, logical device 0
January 9, 2013 3:19:39 PM MSK INF storage.avant.local Container changed: controller 1, logical device 0
January 9, 2013 3:19:41 PM MSK WRN 301:A01C-S--L00 storage.avant.local Logical device is degraded: controller 1, logical device 0 ("System").
January 9, 2013 3:19:41 PM MSK WRN 418:A01C-S--L-- storage.avant.local Bad Block discovered: controller 1 (15c5c00).
January 9, 2013 3:19:46 PM MSK INF storage.avant.local Configuration has changed.
January 9, 2013 3:19:47 PM MSK INF 304:A01C-S--L00 storage.avant.local Rebuilding: controller 1, logical device 0 ("System").
January 9, 2013 3:19:58 PM MSK INF storage.avant.local Running: RAID 5 rebuild - 5%. Controller 1, logical device 0
ну и так далее