|
Куда вставить гиг текста чтобы мгновенно проверять на вхождение? | ☑ | ||
---|---|---|---|---|
0
Shved_72
18.02.15
✎
14:45
|
Есть csv файл больше гига со списком недействительных паспортов.
надо проверять по нему вводимые паспорта, желательно почти мгновенно. файл ФМС тут: кому интересно http://services.fms.gov.ru/info-service.htm?sid=2103 будет ли быстрее напрямую в СКУль загрузить и проверять вхождение средствами скуля? или в 1с можно чото более быстрое организовать? |
|||
1
vis_tmp
18.02.15
✎
14:46
|
Проверка по базе загруженной в SQL будет почти мгновенно.
|
|||
2
FIXXXL
18.02.15
✎
14:47
|
да и РС с одним полем не сильно долго должен работать
|
|||
3
vis_tmp
18.02.15
✎
14:48
|
+(1)У меня по таблице с 1,5 млн записей выборка делается в доли секунды.
Это журнал регистрации 1С загруженный в SQL |
|||
4
Михаил Козлов
18.02.15
✎
14:49
|
Можно в dbf с индексом (если неохота править конфу).
|
|||
5
Гёдза
18.02.15
✎
14:50
|
а ведь наварняка можно и к цсв индекс замутить
|
|||
6
vis_tmp
18.02.15
✎
14:53
|
(5)Думаешь???
|
|||
7
Гёдза
18.02.15
✎
14:57
|
(6) А почему нет?
|
|||
8
rsv
18.02.15
✎
15:11
|
(0) Можно покурить тему как кинуть линк на текст и обычным Select * from where
|
|||
9
tridog
18.02.15
✎
15:25
|
(0) Искренне надеюсь, что "загрузить в скуль" - это не значит сразу в одно поле.
А парсинг и нормализация вполне может занять больше времени, чем построчная запись. Проверил бы уже) |
|||
10
tridog
18.02.15
✎
15:26
|
(8) О господи...
|
|||
11
Shved_72
18.02.15
✎
15:41
|
попа еще и в том что файл обновляется каждый рабочий день. я пока так не узнал скоко у него строк.. все еще считает. ни ексель ни прочие не открыли его ваще
|
|||
12
Shved_72
18.02.15
✎
15:44
|
программно перебираю строки с утра. пока 2,5 млн строк... считает дальше...
|
|||
13
FIXXXL
18.02.15
✎
15:45
|
(11) тогда РС не покатит
|
|||
14
IVT_2009
18.02.15
✎
15:46
|
(12) не очень у меня умная идея, но может его нормализовать предварительно чем то другим а не средствами 1с ? Результат нормализации уже потом вгружать в программу
|
|||
15
Fram
18.02.15
✎
15:47
|
BULK INSERT в скуле
|
|||
16
Shved_72
18.02.15
✎
15:58
|
(15) спасибо. ценно. проглотит ли формат
http://blog.sqlauthority.com/2008/02/06/sql-server-import-csv-file-into-sql-server-using-bulk-insert-load-comma-delimited-file-into-sql-server/ |
|||
17
Господин ПЖ
18.02.15
✎
15:59
|
>попа еще и в том что файл обновляется каждый рабочий день
гы... я так и думал, тогда в 1с лучше это не волочь |
|||
18
Господин ПЖ
18.02.15
✎
16:00
|
>А парсинг и нормализация вполне может занять больше времени, чем построчная запись
это умел DTS делать в скуле еще в 2000 году |
|||
19
tridog
18.02.15
✎
16:38
|
(18) Ну вообще да) Но тоже не мгновенно)
|
|||
20
Гёдза
18.02.15
✎
16:39
|
(17) по ночам обновлять
|
|||
21
Fram
18.02.15
✎
16:59
|
(16) глотает любой формат с разделителями
|
|||
22
vis_tmp
18.02.15
✎
18:34
|
(0)Попробуй(3)+(15)+(18)
|
|||
23
vis_tmp
19.02.15
✎
09:13
|
(0)Ну как, что попробовал?
|
|||
24
Shved_72
19.02.15
✎
12:20
|
на 4 млн строке перебора 1с вылетела с нехваткой памяти...
пока больше не пробовал. боюсь скуль уронить |
|||
25
PLUT
19.02.15
✎
12:36
|
(24) комп г.вно
ЧтениеТекста использовал в одноэс? |
|||
26
Fram
19.02.15
✎
12:39
|
(25) судя по нехватке памяти ТекстовыйДокумент
|
|||
27
VladZ
19.02.15
✎
12:40
|
(24) "Уронить скуль" - я не знаю, что нужно сделать, чтобы уронить скуль. Скорее 1С-ка "подавится".
|
|||
28
VladZ
19.02.15
✎
12:42
|
Попробуй загрузить данные сразу в Скуль.
|
|||
29
PLUT
19.02.15
✎
12:44
|
||||
30
VladZ
19.02.15
✎
12:56
|
(29) Забавно... Темп размещать на диске с? И базы данных, видимо, здесь же??? Колхоз "Красный Лапоть"...
|
|||
31
PLUT
19.02.15
✎
13:08
|
(30) неважно, где в колхозе темпы размещены. в (29) написано как завалить
|
|||
32
Управление торговлей
19.02.15
✎
13:17
|
(0) автор, у тебя прием на работу тысячами в день происходит? может, лучше запрос к сайту делать, хотя бы и с капчей?
|
|||
33
Мыш
19.02.15
✎
13:34
|
Красно-чёрное дерево присобачьте к файлику.
|
|||
34
Господин ПЖ
19.02.15
✎
13:38
|
>на 4 млн строке перебора 1с вылетела с нехваткой памяти...
пока больше не пробовал. боюсь скуль уронить причем ту скуль? клиент 1с отожрал положенную ему память и умер |
|||
35
Shved_72
19.02.15
✎
15:21
|
(32) надо мгновенно без лишних движений операторов, табом с поля перешел - проверка прошла, если недействителтный - вызов ФСБ
перебором я пока хотел узнать сколько всего строк. перебирал ессно на локальной. чтоб тестить на сервер надо доехать до сервера с флэшкой и присунуть комунить. пока терпит |
|||
36
dmpl
19.02.15
✎
15:26
|
(11) diff натрави.
|
|||
37
Shved_72
19.02.15
✎
15:33
|
Наверно лучше булки инсерт и дтс ничо лучше не придумать. Поэтому как вставлю отпишусь
|
|||
38
spectre1978
19.02.15
✎
16:32
|
(5) можно, но гиморно и, главное, не нужно. Гораздо проще конвертнуть в БД, у которой индексы уже предусмотрены.
|
Форум | Правила | Описание | Объявления | Секции | Поиск | Книга знаний | Вики-миста |