Коллеги, появилась возможность выполнения параллельных запросов в информационной системе 1С. Решение предоставляется бесплатно, просьба оценить и ждем Ваших комментариев.
Описание: http://softpoint.ru/article_id4224.htm

Отвечу на все вопросы в этой ветке

(94) С чего бы это?

(86) Я просил пример отчета, который имеет смысл ускорять таким способом, и который получает выигрыш от распараллеливания. В идеале - отчет для типовой конфы, чтобы можно было повторить и увидеть результат. Есть такое?

Если нет, то хотя бы описание словами. Был такой-то отчет по таким-то данным в такой-то конфе, выполнялся столько-то, распараллелили так-то, получили столько-то. Хотя бы так можете? Нет? Тогда извините, а с чем же вы пришли?

Как в анекдоте получается. "Дорогая, ты ж у меня умная, придумай сама что-нибудь".

(98) -> (88)

(94) В большинстве сложных запросов 1С всегда множество запросов SQL (заполнение виртуальных таблиц, и прочее).

(98)  mistеr
>Был такой-то отчет по таким-то данным в такой-то конфе,
>выполнялся столько-то, распараллелили так-то, получили
>столько-то...
+
хотелось бы циферки, например в % (процентах)

(101) И что это даст?

(95) Это совсем другое, нежели "собрать все в один запрос".

(94) Где это написано?

(100) gallam
тоже +
И даже больше "ПРАКТИЧЕСКИ ЛЮБОЙ запрос на Языке 1С"  = "нескольким SQL"

Готов поспорить на шнурок от USB, Aleksey - бывший семерошник.

(97) Ты у меня спрашиваешь? Я типовые не пишу

О кстати, а ТС предупреждает о "забористости" своего отчета на больших данных?

А то пользователь наш настолько умен, что могет и кнопочку-то нажать...

(104) Что такое парадигма прочитал? Вот там и написано

(98)
Может мы конечно под различными углами все видим, но:...

Приведу пример:
Есть Visual Studio , предоставляется API для программирования,
пример использования и программист адаптирует к своей задачи.

В статье сказано в пункте эффект (у нас получалось для 3-х запросов) ускорение в 2,5 раза.

P.S> Вот и предоставлено API и пример. Если надо адаптировать к вашим задачам (к вашему отчету) - то надо анализ вашего отчета, применимость подтвердить.

(106) В 7-ке как раз с этим порядок

(111) Я вас за версту чую.

(112) Так и хочется спросить. "И чё?"

(112) Да ты нюхач :)

Нет, ну правда, от того что я бы не знал 7-ки писать всё в один запрос перестала быть парадигмой?

(110) Ладно, что Вы так обижаетесь?
Идея хорошая, кто знает где использовать, тот по-пробует.
У меня, например, не прокатит из-за ограничений на серверах.

А тем, кто тут так неимоверно крут - пусть напишут код на tSQL, который выполнит 2 запроса параллельно.

(115) Писать все в один запрос и не было парадигмой.

(110) Ты пойми, если хочешь привлечь внимание к своей разработке, покажи ее с выгодной стороны. Подготовь такой пример, выложи, Тогда только кто-то попробует, появятся вопросы по существу. А так никто не будет специально ломать голову "а где бы мне это применить".

Это что касается рядовых одинесников. С теми же, кто готов лезть в дебри SQL и оптимизации, надо общаться на соответствующем уровне. К чему ты, как видно, тоже не готов.

(117) А что же это такое?

(118) Фигасе :)
так никто не будет специально ломать голову "а где бы мне это применить". Это что касается рядовых одинесников.

Т.е. быдлокодеров, кои вообще ни в платформе, ни в чем другом не смыслят. Мдя.

(116) А какие ограничения у серверов?

(121) Ну, на игрушечном можно развернуть, а для боевых серверов - надо согласовывать это со многими.....

(121) Кстати, интересно сравнить данные при использовании этой компоненты и принудительного использование параллельного плана выполнения запросов в её отсутствие.

(120) Не передергивай. В 1С, также как и в яве, в дотнете и прочем, полно людей разного уровня. Все они востребованы на своем месте, так или инача.

(124) Да ну? В Яве-то? В java такие люди не задерживаются, про .NET поверить можно, но там таки мозг нужен, в 1С же мозг не всегда востребован.

(118)
>>С теми же, кто готов лезть в дебри SQL и оптимизации, надо общаться на соответствующем уровне. К чему ты, как видно, тоже не готов.

Откуда дровишки?

(0) Насколько я помню, фирма 1С распространяет лицензию сервера из расчета одна лицензия на один процессор, тобиш сколько не параллель процессов всё равно будет выполняться на одном физическом процессоре или по крайней мере это зависит от ОС сервера (если есть автоматическое раскидывание процессов по процессорам/ядрам)
Другой аспект. Если запросы связанны с одними и теми же таблицами в БД то как никрути будут срабатывать блокировки (если в одной сессии) и получиться примерно одно время если посылать запросы последовательно, а может быть ещё хуже!

(0) На сайте есть инструкция по установке но нет инструкции по удалению, как после тестов все удалить безболезненно и без последствий?

(128) В установке и удалении программ (Программы и компоненты) не прописалось? Если да то наверняка так!

(127) Про лицензии не понял вообще...
Вы абсолютно неправы.
- "Если запросы связанны с одними и теми же таблицами в БД то как никрути будут срабатывать блокировки (если в одной сессии)" - если в одной сессии, то блокировок не будет (с кем конфликтовать?)
- " получиться примерно одно время если посылать запросы последовательно, а может быть ещё хуже!" - вот где у людей логика!!!

(128) С точки зрения загрузки библиотеки (не загружайте ее и все работает в штатном режиме)
Если с точки зрения кода - то посмотрите внимательно на служебные процедуры и вы поймете, что они универсальны для 2 режимов (нет компоненты работаю как и раньше последовательно, есть - параллельно).

(130) Про лицензии видимо не так понял сотрудников 1С (почему то у них процессор и сервер один смысл)

СУБД сама разве не параллелит запросы?
Настоящий прирост можно получить только если запаралелить сам код 1С и релизовать что-то вроде блокировок когда идет чтение или изменение одних данных. Блокировки объектов немного не то.

(131)
СУБД параллелит, когда имеет возможность.
Но здесь как раз очень часто параллелизм нельзя использовать.
В решении мы и предлагаем паралеллить выполнение двух запросов 1С, как наиболее длительных в отчете.

(131)
>>СУБД сама разве не параллелит запросы?
Может запараллелить, а может и не: необходимо смотреть план выполнения запроса.

(0) почему не для семерки?

(132)
>>В решении мы и предлагаем паралеллить выполнение двух запросов 1С, как наиболее длительных в отчете.

Ну... млин.. щас польется.. :(

(134) для неё тоже можно использовать

+(136) только в паре с 1С++, но тогда надо ставить на каждую р/с.

(134) В семерке можно использовать в ADO.
1С 77 - это ODBC во-первых, а во вторых: там длительность запроса обусловлена не столько неоптимальностью текста, сколько большим количеством маленьких запросов.

(135) ))

(138) Хотя, вот с 1С++, могут возникнуть проблемы...

(139) Я умышленно говорю ADO)

+ Но можно без проблем реализовать и для 77, но для 1С 8 - актуальнее

(132)
>> В решении мы и предлагаем паралеллить выполнение двух запросов 1С, как наиболее длительных в отчете.

Отчеты конечно нужная вещь, но всё-таки параллельные вычисления больше необходимы именно при расчетах, например расчет зарплаты, если бы можно было запаралелить данный расчет.
Планируется ли разработка для таких задач?

(142) планируется.
Как раз параллельный расчет ЗП, например, для компании с большим количеством персонала. Он очень подходит для этого.

(142) Что мешает там параллелить?

(144) Речь не о 2-х трех одновременных процессах, а допустим 15-30, и каждый процесс расчитает данные по сотруднику!
Такое можно реализовать без танцев с бубном? Особенно если требуется расчет в интерактивном режиме!

(145) зарплату надо рассчитывать не раз в месяц, а сразу-же по мере ввода, всего-то и делов.

(146) Это если алгоритм простой
и нарушение последовательности нет.

(146) Ишь та какой, а не всегда так можно сделать.

(145) Это как? O_O 15-30 процессов в интерактивном режиме...

2(0) Простите это не параллельные вычисления, это выполнение запросов только.
А Нуралиев обещал полную параллельность осуществить. правда когда? :)

(147) последовательность... Пита на вас нет ))
(148) странно, а не в 1С программах учета зарплаты  даже не в курсе, что так делать нельзя и делают.

(149) Пользователь открыл "Начисление зп" и нажал кнопу "Расчитать", а ему спустя пару минут все расчиталось, а не пришлось ждать десятки минут!!!

(152) неверный подход, когда целый месяц процессор простаивает, и только раз в месяц даем ему про$раться

(153) Может потребоваться если нужно быстро пересчитать по какому-то подразделению и т.п.
А так конечно должно расчитываться в фоне, но судя по тому как это реализовано в УПП...

(154) +1

2(154) Уже обсуждалось фигову тучу раз.
Считайте по отделам. Затраты процессора в пределах нормы, возможность параллельного ввода документов, минимальная нагрузка при пересчетах.
Нафиг остальные изыски?

Как любит говорить народ: Автоматизация бардака приведет к автоматизированному бардаку.

(150) Вы наверное перепутали - Нуралиев обещал полную параллельность работы пользователей (минимум блокировок), а тут параллельное выполнение последовательных команд (запросов 1С).

(152) Десятки минут? Это на весь Газпром что ли?

2 (157) Ну не... Нуралив и Рупасов много чего обещали. В частности параллельность и многопотоковость...

(156) " Затраты процессора в пределах нормы, минимальная нагрузка при пересчетах " - как раз при параллелизме идет повышенная нагрузка на ресурсы (в идеале по максимуму), но за счет этого минимальное время выполнения.

(158) Такое тоже очень часто бывает: http://www.softpoint.ru/info_id94.htm

2(156) Вы поймите, что как уже говорили выше, мощность серверов используется не одномоментно, а растянуто во времени.

Вот пример: 2 землекопа должны за 10 дней выкопать траншею,
1 копает каждый день, 2-й в последний день. кто запарится быстрее? :(

2(161) сервер нужен менее мощный в этом случае и все будете успевать. :)

это хорошо сказано:
Ожидаемый эффект по производительности:
  Не стоит ожидать большого эффекта от распараллеливания запросов 1С для любых аппаратных ресурсов. На наш взгляд наиболее эффективно распараллеливание, если вы обладаете многоядерным сервером и достаточно производительной СХД.
  Количество потоков определяется обычно количеством ядер и рассчитывается эмпирически на тестовых прогонах.
  Нам на практике удалось уменьшить длительность выполнения и получение выборки 3-х запросов в 2,2 – 2,5 раза. При этом надо помнить, что выполняя параллельно N запросов, требуется заранее спланировать возможное увеличения оперативной памяти rphost.exe для всех выборок параллельно выполняющихся запросов.

(163) надеюсь вы прошли по ссылке и видели показатели и количество сотрудников.
Далее по вашему примеру:
Не все обычно так просто.
Есть сотрудник, он работает каждый день.
Дальше есть менеджер, ЗП у него зависит от того, как хорошо работают сотрудники (например, в течение недели) и от этого различные схемы. И прочее/прочее.

А если у сотрудников разл. коэффициенты.

Вывод: у Вас в практике были только несложные расчеты ЗП.

(161) 1 час 40 минут это тоже слишком много, если считать сразу, то вообще ждать не надо. Вообще документа "расчет зарплаты" не должно существовать, сам принцип неверный.

(143) считать паралельно по каждому сотруднику?

(167) конечно (если возможно), но ограничить количество потоков в соответствие с вашими ресурсами.

(161) Охренеть.

(165) О кстати, о параллелизме.

There is an undocumented trace flag 8649 to set the cost overhead of parallelism to 0. This may provide some relief, but is not a full solution. You can use it in a query hint in the form OPTION(querytraceon 8649).

Источник:
https://connect.microsoft.com/SQLServer/feedback/details/714968/provide-a-hint-to-force-generation-of-a-parallel-plan#details

(146) Если б так просто было в реальности.. Например, у нас как правило, по окончании месяца в течение очень короткого времени несут всякие проценты, показатели, табеля, без которых невозможен полный расчет зп, и в итоге на обсчете нескольких тысяч сотрудников программа встает колом из-за взаимоблокировок. Частично разрулили управляемыми блокировками, но где-то местами и они не помогают..

(171) насчет блокировок при совместной работе - если расчетчиков несколько, нет никакого смысла им сидеть в одной базе, все равно каждый отвечает за определенное подразделение/отдел. И зачем запускать обсчет нескольких тысяч сотрудников, все равно в каждый момент времени расчетчик работает с каким-то определенным сотрудником или отделом, вот сразу же и рассчитывать все что можно, и пофиг, к примеру, что вместо просто НДФЛ будет НДФЛ в части оклада, НДФЛ в части премии, НДФЛ в части больничного и т.п.

(172) В том-то и дело, что на каждый отдел свой документ, но в нем может быть сколько-то тысяч строк (внутри отдела может туева хуча совмещений), которые при записи в регистр расчета блокируют таблицу напрочь, отрубая вычисления других расчетчиков (а конфа устроена так, что в процессе расчета она постоянно пишет наборы записей, считает, снова пишет и т.д.).
Плодить распределенные базы тоже не оч хороший вариант, поскольку кадровиками параллельно могут довводиться  всяческие вытеснения, перемещения и пр. движения, и тут еще надо не профукать, все ли данные для расчета по сотруднику пришли из другой базы.

(0) Дорогой автор, Вы видели в СКД у источника данных есть путь к Кластеру серверов( или еще както он называется). вроде сейчас он не работает.
но вот 8.3(сам не тестил) добавились фичи в кластере. и сдается мне что на 8.3 "Объединение" наборов данных будет(сейчас или в скором времени) работать параллельно через этот механизм.

одним словом - ГодаНеПройдет

(174) кластер 1с или Ms SQL?
И конечно не понятно описание - что то есть, сам не видел и не тестировал...
Ещё раз повторюсь - предлагается вариант для реализации параллелизма в 1с, а не решение всех проблем (хотя было бы супер).

(175) gallam,
Про параллельное выполнение запросов безусловно "+".

Вот кстати вопрос по смежной теме что там у Вас с "Кластером Софтпоинт"? - удалось достичь скорости сервера "все в одном"? )).

Уж простите за подковырку - но даже Oracle в RAC -не удалось масштабировать больше ДВУХ серверов (коэф 0.95) - без значительного падения коэф. масштабирования.
Масштабирование имеется ввиду ПОЛНОЕ а не ГОРИЗОНТАЛЬНОЕ.

(0) не понятно не фига, чем от фоновых отличается.

(177) YHVVH
с фоновыми ВЫЯ...СЯ приходится, а здесь типо все проще))

(178) понятно теперь

(177) Кластер удалось реализовать
почитать можно:
http://www.softpoint.ru/products_id15.htm
http://www.softpoint.ru/products_id335.htm

Это два разных решения.
, в феврале-марте проводим официальное тестирование на мощном оборудовании, от его результатов многое зависит.
После первичного тестирования 70-80% нагрузки можно распределить для 1С 8.

p.S> 0,95 - очень хороший результат.

блин, а я на нодежс диспетчер потоков пишу...

для 1с :)

(178)
+1 А также быстрее и меньше ресурсов.

(181) А для какой задачи?

(184) в общем случае - для всего, что не блокирует друг друга, например для восстановления последовательности или там массового удаления/добавления записей в регистре и т.п.

(185) Уже обсуждалась в ветке основная проблема удаления/добавления записей регистра - транзакция.
По поводу восстановления последовательности - тоже писали, можно применить, когда ресурсы пересечения распределены равномерно по ряду групп (как раз для таких вещей, как восстановление последовательности для партионки - это сложнореализуемо).

(186) так как раз и диспетчер нужен, когда группы неравномерные

очередь с с графом зависимостей

(187) Я имел в виду, что когда группы неравномерные, например, одна 95% и остальные 5%, то смысла большого в параллельном выполнении нет (эффект максимальный - длительность 5%).

(189) ну, тут уже надо курить, чтобы групп было больше, например делать из подчиненного РС неподчиненный и т.п.

2(165) Ошибаетесь.
И проценты от выработки были и просто процентов от оклада, и по табелю и от процентов продаж и т.д.

(0) а увеличить быстродействие EKLib.dll с помощью этой технологии нельзя? Или распараллелить то, что на входе?

(192) Честно скажу, что с EKLib.dll почти не работали. Если скинете более подробную информацию (код 1С для нее), описание задачи, и будут после анализа обнаружены запросы для параллельного выполнения, то можно доработать.

+ Если EKLib.dll = ЕК Софт

(194) конечно "равно", поэтому и спрашиваю.
Ясно. Вобщем тема не раскрыта. Просто удочку закинул.

(193) сорри, я вас перепутал с ними...