Обновить страницу
  • Аудиокнига Романа Шапошникова ''Покер для начинающих''. Бесплатно и легально!\ title=
 
Ответить в данную темуНачать новую тему
> Ускорение работы PostgreSQL при импорте
LuckyLake
сообщение 17.9.2009, 0:13
Сообщение #1


Преподаватель ЭГ
***

Группа: Преподаватели
Сообщений: 1873
Регистрация: 19.6.2009
Из: МО
Пользователь №: 15688



Всем привет.

Надеюсь, тем кто регулярно импортит руки в свою БД, данная информация будет полезна.
Сам нашел эту ветку на цгм-е, сегодня опробовал лично.

Правим postgresql.conf, предварительно естественно закрыв трекер, остановив сервер.

shared_buffers = 512MB
work_mem = 32MB
maintenance_work_mem = 128MB
fsync = off
synchronous_commit = off
wal_buffers = 512kB
effective_cache_size = 512MB

потом делаем "Reload Configuration", запускаем сервер, и....

На новом железе с Intel Core 2 Quad, 4 гига мозгов, и, самое приятное, 2 харда по 500 ГБ с массивом RAID 0, импорт 70 килорук занял 5 минут, хаускипинг еще 6 ))

Скорость импорта - 200 рук в сек.

Пока пишу, запустил импорт 2500 килорук. Расчетное время импорта - 3 часа. Скорость - 220 рук/сек.
Очень приятно после старого ноута и старых настроек, на котором было 30 рук в сек.

Всем удачи в нашем нелегком деле, надеюсь информация была полезной.
Перейти в начало страницы
 
  +Цитировать сообщение
XBOCT
сообщение 17.9.2009, 10:30
Сообщение #2


Активный участник
***

Группа: Модераторы
Сообщений: 149
Регистрация: 15.7.2008
Из: Москва
Пользователь №: 4398



Цитата(LuckyLake @ 17.9.2009, 1:13) *
надеюсь информация была полезной.

Более, чем. Спасибо.
Интересная тема.

Как я понял, этим мы предоставляем базе доп ресурсы?

Надо будет попробовать. Как думаешь, на старом железе результат будет?
Перейти в начало страницы
 
  +Цитировать сообщение
LuckyLake
сообщение 17.9.2009, 12:10
Сообщение #3


Преподаватель ЭГ
***

Группа: Преподаватели
Сообщений: 1873
Регистрация: 19.6.2009
Из: МО
Пользователь №: 15688



будет, конечно. Только с настройками надо быть поаккуратнее, то есть если у тебя памяти меньше 2 ГБ, то пропорционально надо уменьшить параметры выделяемой памяти, чтобы не было свопинга.
Хотя, конечно, RAID-массив дает колоссальное преимущество при чтении/записи информации на хард.
Перейти в начало страницы
 
  +Цитировать сообщение
XBOCT
сообщение 17.9.2009, 12:31
Сообщение #4


Активный участник
***

Группа: Модераторы
Сообщений: 149
Регистрация: 15.7.2008
Из: Москва
Пользователь №: 4398



Цитата(LuckyLake @ 17.9.2009, 13:10) *
будет, конечно. Только с настройками надо быть поаккуратнее

Я уже подумал об этом .
А с какими именно?
Цитата(LuckyLake @ 17.9.2009, 1:13) *
shared_buffers = 512MB
work_mem = 32MB
maintenance_work_mem = 128MB
fsync = off
synchronous_commit = off
wal_buffers = 512kB
effective_cache_size = 512MB

Не силен я в этом деле sad.gif
что из них, на что влияет, не подскажешь?
Перейти в начало страницы
 
  +Цитировать сообщение
LuckyLake
сообщение 17.9.2009, 15:19
Сообщение #5


Преподаватель ЭГ
***

Группа: Преподаватели
Сообщений: 1873
Регистрация: 19.6.2009
Из: МО
Пользователь №: 15688



сколько оперативки у тебя ?
Перейти в начало страницы
 
  +Цитировать сообщение
XBOCT
сообщение 17.9.2009, 16:03
Сообщение #6


Активный участник
***

Группа: Модераторы
Сообщений: 149
Регистрация: 15.7.2008
Из: Москва
Пользователь №: 4398



1024
Перейти в начало страницы
 
  +Цитировать сообщение
LuckyLake
сообщение 17.9.2009, 16:17
Сообщение #7


Преподаватель ЭГ
***

Группа: Преподаватели
Сообщений: 1873
Регистрация: 19.6.2009
Из: МО
Пользователь №: 15688



уменьши все параметры (цифровые) в два раза
Перейти в начало страницы
 
  +Цитировать сообщение
XBOCT
сообщение 17.9.2009, 16:33
Сообщение #8


Активный участник
***

Группа: Модераторы
Сообщений: 149
Регистрация: 15.7.2008
Из: Москва
Пользователь №: 4398



Цитата(LuckyLake @ 17.9.2009, 17:17) *
уменьши все параметры (цифровые) в два раза

ОК, попробую.
Спасибо.
Перейти в начало страницы
 
  +Цитировать сообщение
dzhamb9
сообщение 17.9.2009, 19:33
Сообщение #9


Активный участник
***

Группа: Пользователи
Сообщений: 167
Регистрация: 3.7.2008
Из: Москвы
Пользователь №: 4233



Колян, после того, как прочитает эту тему, разнесет свой комп вдребезги!!! biggrin.gif
ЗыСы А у меня на ноуте мозгов 3гб, надеюсь, параметры не надо изменять? smile.gif
Перейти в начало страницы
 
  +Цитировать сообщение
LuckyLake
сообщение 17.9.2009, 21:02
Сообщение #10


Преподаватель ЭГ
***

Группа: Преподаватели
Сообщений: 1873
Регистрация: 19.6.2009
Из: МО
Пользователь №: 15688



Цитата(dzhamb9 @ 17.9.2009, 20:33) *
ЗыСы А у меня на ноуте мозгов 3гб, надеюсь, параметры не надо изменять? smile.gif



можно увеличить. в полтора раза biggrin.gif
а можно оставить по дефолту, они рассчитаны на 512КБ оперативки, и оставить себе скорость импорта около 40 рук в сек. )) и импортировать манинг сутками ))
Перейти в начало страницы
 
  +Цитировать сообщение
Fouer
сообщение 17.9.2009, 21:30
Сообщение #11


Активный участник
***

Группа: Экспериментальная группа
Сообщений: 67
Регистрация: 13.3.2009
Пользователь №: 11580



Вообще-то для этих целей есть Stack builder, который настройки под конкретное железо подбирает... 
Перейти в начало страницы
 
  +Цитировать сообщение
LuckyLake
сообщение 17.9.2009, 21:51
Сообщение #12


Преподаватель ЭГ
***

Группа: Преподаватели
Сообщений: 1873
Регистрация: 19.6.2009
Из: МО
Пользователь №: 15688



Если есть, ссылку выложите.
Хотя эти параметры подбираются не только чисто под железо. Например, расчет производится из объема свободной оператиной памяти, а не физической. ибо если у вас будет запущен еще одно ресурсоемкое приложение, свопинг неизбежен
Перейти в начало страницы
 
  +Цитировать сообщение
Fouer
сообщение 18.9.2009, 0:34
Сообщение #13


Активный участник
***

Группа: Экспериментальная группа
Сообщений: 67
Регистрация: 13.3.2009
Пользователь №: 11580



 Да это не сторонний софт, в самом postgres. Пуск-....-postgreSQL...-application stack builder. И там уже в addons выбираем EntepriseDB для postgresql. Буквально в два клика все делается. Конечно, настройки не всегда оптимальные, но вручную править параметры в конф файлах, абсолютно не представляя, для чего это делается много хуже.
Перейти в начало страницы
 
  +Цитировать сообщение
dzhamb9
сообщение 18.9.2009, 9:21
Сообщение #14


Активный участник
***

Группа: Пользователи
Сообщений: 167
Регистрация: 3.7.2008
Из: Москвы
Пользователь №: 4233



Цитата(Fouer @ 18.9.2009, 1:34) *
 Да это не сторонний софт, в самом postgres. Пуск-....-postgreSQL...-application stack builder. И там уже в addons выбираем EntepriseDB для postgresql. Буквально в два клика все делается. Конечно, настройки не всегда оптимальные, но вручную править параметры в конф файлах, абсолютно не представляя, для чего это делается много хуже.

А можно на этом месте подробней? А то я по этому пути пройдя ничего не нашел (заблудился после postgreSQL). Спасибо. smile.gif
Перейти в начало страницы
 
  +Цитировать сообщение
zubr1989
сообщение 11.2.2011, 8:50
Сообщение #15


Активный участник
***

Группа: Экспериментальная группа
Сообщений: 947
Регистрация: 16.5.2010
Из: NEW YORK
Пользователь №: 30852



народ - ветка очень актуальная - ща засек у себя. железо хорошее а импортит всего 300 рук в минуту. 5рук/сек против лакиных 200. кто нить знает как можно оптимизировать это дело ? ХЕЛП
Перейти в начало страницы
 
  +Цитировать сообщение
zubr1989
сообщение 11.2.2011, 13:39
Сообщение #16


Активный участник
***

Группа: Экспериментальная группа
Сообщений: 947
Регистрация: 16.5.2010
Из: NEW YORK
Пользователь №: 30852



всю ночь бился над тем как ускорить. майнинг и правда грузится сутками. два раза сноисл пт что бы что то придумать. ставил пострге = кароче вынес себе мозг. и результата ноль. он по прежнему еле едет

хм - стал импортить около 45 раздач в сек. будем считать жалкая но победа.
Перейти в начало страницы
 
  +Цитировать сообщение

Ответить в данную темуНачать новую тему

1 чел. читают эту тему (гостей: 1, скрытых пользователей: 0)

Пользователей: 0

 



(c) "PokerMoscow"
2005-2013