Имя: Пароль:
1C
 
Куда вставить гиг текста чтобы мгновенно проверять на вхождение?
,
0 Shved_72
 
18.02.15
14:45
Есть csv файл больше гига со списком недействительных паспортов.
надо проверять по нему вводимые паспорта, желательно почти мгновенно.

файл ФМС тут: кому интересно
http://services.fms.gov.ru/info-service.htm?sid=2103

будет ли быстрее напрямую в СКУль загрузить и проверять вхождение средствами скуля? или в 1с можно чото более быстрое организовать?
1 vis_tmp
 
18.02.15
14:46
Проверка по базе загруженной в SQL будет почти мгновенно.
2 FIXXXL
 
18.02.15
14:47
да и РС с одним полем не сильно долго должен работать
3 vis_tmp
 
18.02.15
14:48
+(1)У меня по таблице с 1,5 млн записей выборка делается в доли секунды.
Это журнал регистрации 1С загруженный в SQL
4 Михаил Козлов
 
18.02.15
14:49
Можно в dbf с индексом (если неохота править конфу).
5 Гёдза
 
18.02.15
14:50
а ведь наварняка можно и к цсв индекс замутить
6 vis_tmp
 
18.02.15
14:53
(5)Думаешь???
7 Гёдза
 
18.02.15
14:57
(6) А почему нет?
8 rsv
 
18.02.15
15:11
(0) Можно покурить  тему как кинуть линк на текст и обычным Select * from where
9 tridog
 
18.02.15
15:25
(0) Искренне надеюсь, что "загрузить в скуль" - это не значит сразу в одно поле.

А парсинг и нормализация вполне может занять больше времени, чем построчная запись. Проверил бы уже)
10 tridog
 
18.02.15
15:26
(8) О господи...
11 Shved_72
 
18.02.15
15:41
попа еще и в том что файл обновляется каждый рабочий день. я пока так не узнал скоко у него строк.. все еще считает. ни ексель ни прочие не открыли его ваще
12 Shved_72
 
18.02.15
15:44
программно перебираю строки с утра. пока 2,5 млн строк... считает дальше...
13 FIXXXL
 
18.02.15
15:45
(11) тогда РС не покатит
14 IVT_2009
 
18.02.15
15:46
(12) не очень у меня умная идея, но может его нормализовать предварительно чем то другим а не средствами 1с ? Результат нормализации уже потом вгружать в программу
15 Fram
 
18.02.15
15:47
BULK INSERT в скуле
16 Shved_72
 
18.02.15
15:58
17 Господин ПЖ
 
18.02.15
15:59
>попа еще и в том что файл обновляется каждый рабочий день

гы... я так и думал, тогда в 1с лучше это не волочь
18 Господин ПЖ
 
18.02.15
16:00
>А парсинг и нормализация вполне может занять больше времени, чем построчная запись

это умел DTS делать в скуле еще в 2000 году
19 tridog
 
18.02.15
16:38
(18) Ну вообще да) Но тоже не мгновенно)
20 Гёдза
 
18.02.15
16:39
(17) по ночам обновлять
21 Fram
 
18.02.15
16:59
(16) глотает любой формат с разделителями
22 vis_tmp
 
18.02.15
18:34
(0)Попробуй(3)+(15)+(18)
23 vis_tmp
 
19.02.15
09:13
(0)Ну как, что попробовал?
24 Shved_72
 
19.02.15
12:20
на 4 млн строке перебора 1с вылетела с нехваткой памяти...
пока больше не пробовал. боюсь скуль уронить
25 PLUT
 
19.02.15
12:36
(24) комп г.вно

ЧтениеТекста использовал в одноэс?
26 Fram
 
19.02.15
12:39
(25) судя по нехватке памяти ТекстовыйДокумент
27 VladZ
 
19.02.15
12:40
(24) "Уронить скуль" - я не знаю, что нужно сделать, чтобы уронить скуль. Скорее 1С-ка "подавится".
28 VladZ
 
19.02.15
12:42
Попробуй загрузить данные сразу в Скуль.
29 PLUT
 
19.02.15
12:44
(27) ну у вас и запросы - сказал скуль  и повесился

http://infostart.ru/public/252434/
30 VladZ
 
19.02.15
12:56
(29) Забавно... Темп размещать на диске с? И базы данных, видимо, здесь же???  Колхоз "Красный Лапоть"...
31 PLUT
 
19.02.15
13:08
(30) неважно, где в колхозе темпы размещены. в (29) написано как завалить
32 Управление торговлей
 
19.02.15
13:17
(0) автор, у тебя прием на работу тысячами в день происходит? может, лучше запрос к сайту делать, хотя бы и с капчей?
33 Мыш
 
19.02.15
13:34
Красно-чёрное дерево присобачьте к файлику.
34 Господин ПЖ
 
19.02.15
13:38
>на 4 млн строке перебора 1с вылетела с нехваткой памяти...
пока больше не пробовал. боюсь скуль уронить

причем ту скуль? клиент 1с отожрал положенную ему память и умер
35 Shved_72
 
19.02.15
15:21
(32) надо мгновенно без лишних движений операторов, табом с поля перешел - проверка прошла, если недействителтный - вызов ФСБ

перебором я пока хотел узнать сколько всего строк. перебирал ессно на локальной.
чтоб тестить на сервер надо доехать до сервера с флэшкой и присунуть комунить.

пока терпит
36 dmpl
 
19.02.15
15:26
(11) diff натрави.
37 Shved_72
 
19.02.15
15:33
Наверно лучше булки инсерт и дтс ничо лучше не придумать. Поэтому как вставлю отпишусь
38 spectre1978
 
19.02.15
16:32
(5) можно, но гиморно и, главное, не нужно. Гораздо проще конвертнуть в БД, у которой индексы уже предусмотрены.