Warning: Cannot use a scalar value as an array in /home/admin/public_html/forum/include/fm.class.php on line 757

Warning: Invalid argument supplied for foreach() in /home/admin/public_html/forum/include/fm.class.php on line 770

Warning: Invalid argument supplied for foreach() in /home/admin/public_html/forum/topic.php on line 737
Форумы портала PHP.SU :: Импорт текстовых файлов в БД

 PHP.SU

Программирование на PHP, MySQL и другие веб-технологии
PHP.SU Портал     На главную страницу форума Главная     Помощь Помощь     Поиск Поиск     Поиск Яндекс Поиск Яндекс     Вакансии  Пользователи Пользователи


 Страниц (1): [1]   

> Описание: А также отображение прогесса
Tmin10
Отправлено: 31 Января, 2012 - 17:17:39
Post Id



Частый гость


Покинул форум
Сообщений всего: 239
Дата рег-ции: Дек. 2009  


Помог: 0 раз(а)




Нужно импортировать 36 мегабайт текста в БД из нескольких текстовых файлов, каждая строка- отдельная запись в БД, всего около 300 тысяч строк.
Как сделать это оптимальнее, чем просто в цикле читать файлы построчно, парсить их, составлять запрос на добавление одной строки и повторять это?


Также стоит задача вывести пользователю цифры, показывающие текущий прогресс. Есть идея, что после запуска скрипта, он будет писать в сессию цифру, которая после каждой строки будет возрастать, а для пользователя, запрашивая каждую секунду AJAXом будет демонстрироваться это число. Есть ли более эффективные решения?
 
 Top
EuGen Администратор
Отправлено: 31 Января, 2012 - 17:43:56
Post Id


Профессионал


Покинул форум
Сообщений всего: 9095
Дата рег-ции: Июнь 2007  
Откуда: Berlin


Помог: 707 раз(а)






-----
Есть в мире две бесконечные вещи - это Вселенная и человеческая глупость. Но насчет первой .. я не уверен.
 
 Top
Tmin10
Отправлено: 31 Января, 2012 - 17:58:54
Post Id



Частый гость


Покинул форум
Сообщений всего: 239
Дата рег-ции: Дек. 2009  


Помог: 0 раз(а)




Дык файл то ещё распарсить надо, там же не всё просто так, там есть и нужные поля и не ненужные, часть данных в одну таблицу и в другой только ссылку на неё.


Спасибо за ссылку, довольно интересная возможность.

(Отредактировано автором: 31 Января, 2012 - 18:03:14)

 
 Top
EuGen Администратор
Отправлено: 31 Января, 2012 - 18:52:02
Post Id


Профессионал


Покинул форум
Сообщений всего: 9095
Дата рег-ции: Июнь 2007  
Откуда: Berlin


Помог: 707 раз(а)




Все же оптимальнее преобразовать файл к тому виду, из которого его можно импортировать тем же LOAD DATA (например, преобразовать с помощью некоторого скрипта) - или же сразу к формату SQL


-----
Есть в мире две бесконечные вещи - это Вселенная и человеческая глупость. Но насчет первой .. я не уверен.
 
 Top
snikers987
Отправлено: 31 Января, 2012 - 18:58:19
Post Id



Участник


Покинул форум
Сообщений всего: 1239
Дата рег-ции: Сент. 2011  
Откуда: Крым


Помог: 25 раз(а)




Можно нагрузить локальную машину не заморачиваясь оптимальностью, можно не выполнять запрос при каждой итерации цикла, а подготовить строку запроса к примеру из 100 строк. потом выполнить..


-----
Когда всматриваешься в тёмную бездну, учти, что кто-то может смотреть на тебя из неё...
 
My status
 Top
Tmin10
Отправлено: 31 Января, 2012 - 19:17:37
Post Id



Частый гость


Покинул форум
Сообщений всего: 239
Дата рег-ции: Дек. 2009  


Помог: 0 раз(а)




ок, спасибо, попробую, проведу замеры времени, сейчас это расчитано для локальных машин, но если всё получится, то и на хостинге должно работать
 
 Top
Страниц (1): [1]
Сейчас эту тему просматривают: 0 (гостей: 0, зарегистрированных: 0)
« Хранение данных, их вывод и обработка »


Все гости форума могут просматривать этот раздел.
Только зарегистрированные пользователи могут создавать новые темы в этом разделе.
Только зарегистрированные пользователи могут отвечать на сообщения в этом разделе.
 



Powered by PHP  Powered By MySQL  Powered by Nginx  Valid CSS  RSS

 
Powered by ExBB FM 1.0 RC1. InvisionExBB