Warning: Cannot use a scalar value as an array in /home/admin/public_html/forum/include/fm.class.php on line 757

Warning: Invalid argument supplied for foreach() in /home/admin/public_html/forum/include/fm.class.php on line 770

Warning: Invalid argument supplied for foreach() in /home/admin/public_html/forum/topic.php on line 737
Форумы портала PHP.SU :: Кэширование - нужен совет

 PHP.SU

Программирование на PHP, MySQL и другие веб-технологии
PHP.SU Портал     На главную страницу форума Главная     Помощь Помощь     Поиск Поиск     Поиск Яндекс Поиск Яндекс     Вакансии  Пользователи Пользователи


 Страниц (1): [1]   

> Описание: 14 600 000 результатов по гуглу
lowmax
Отправлено: 25 Августа, 2012 - 00:33:28
Post Id



Новичок


Покинул форум
Сообщений всего: 39
Дата рег-ции: Апр. 2012  


Помог: 0 раз(а)




Гугл выдает результат по одному из разделов сайта
14 600 000
База данных mysql кряхтит, запрос выполняет от 5 до 30 сек

Сделал кэширование с сохранением кэшированных файлов в папку
причем для поисков один кэш, для юзеров совсем другой

получилось

CODE (htmlphp):
скопировать код в буфер обмена
  1. /cache/1.txt - это для юзеров
  2. /cache/1r.txt - это для поисковиков
  3. /cache/2.txt
  4. /cache/2r.txt
  5. /cache/3.txt
  6. /cache/3r.txt
  7. /cache/4.txt
  8. /cache/4r.txt
  9. и т.д.


Естественно вообще можно так делать то?
Со временем в папке появится 14 600 000 * 2 = 29 200 000 файлов
Все это дело займет 2 - 3 месяца

файл занимает 17 кб в среднем
отсюда считаем

17 * 14 600 000 = 248 200 000 кб / 1024 = 242 383 мб / 1024 = 237 гб * 2 = 474 гб

Получается что в папке будет лежать 474 гб файлов общее количество которых будет составлять 29 200 000 файлов

Не загнется все это дело?
Что посоветуете?

и не забывайте это всего один раздел сайта, а таких несколько

С кэшированием страницы загружаются мгновенно

(Отредактировано автором: 25 Августа, 2012 - 00:38:48)

 
 Top
caballero
Отправлено: 25 Августа, 2012 - 01:31:41
Post Id


Активный участник


Покинул форум
Сообщений всего: 5998
Дата рег-ции: Сент. 2011  
Откуда: Харьков


Помог: 126 раз(а)




Цитата:
Гугл выдает результат по одному из разделов сайта
14 600 000

результат чего?

Цитата:
Получается что в папке будет лежать 474 гб файлов общее количество которых будет составлять 29 200 000 файлов

а файловая система предусматривает такие количество файлов в одном каталоге?


-----
Бесплатная система складского учета с открытым кодом https://zippy[dot]com[dot]ua/zstore
 
 Top
lowmax
Отправлено: 25 Августа, 2012 - 01:40:53
Post Id



Новичок


Покинул форум
Сообщений всего: 39
Дата рег-ции: Апр. 2012  


Помог: 0 раз(а)




caballero пишет:
Цитата:
Гугл выдает результат по одному из разделов сайта
14 600 000

результат чего?

Цитата:
Получается что в папке будет лежать 474 гб файлов общее количество которых будет составлять 29 200 000 файлов

а файловая система предусматривает такие количество файлов в одном каталоге?


результат поиска, найдено страниц гуглом, а значит индексировано - естественно не каких то там, а именно сайта
база огромная mysql ее даже выкачать проблематично
бот каждую секунду дрючит портал уже в течение несколько месяцев
думаю мог бы и быстрее но тут ограничения в нагрузки на сервер
а это не только гугл но и все остальные подрючивают + юзеры

операционная CentOS
хрен знает где искать ограничение на количество файлов в каталоге


в виндоусе создал в папке 800 000 фотографий, 30 сек папка открывалась
а это линукс...
(Добавление)
Для NTFS:
Maximum number of files in a single folder: 4,294,967,295

http://ask-leo[dot]com/is_there_a_li[dot][dot][dot]ry_can_hold[dot]html

судя по моим манипуляциям получается

Filesystem Inodes IUsed IFree IUse% Mounted on
/dev/hda 960992 54974 906018 6% /

т.е.
960992 файлов

или что то не так?
мля...

(Отредактировано автором: 25 Августа, 2012 - 01:43:59)

 
 Top
Viper
Отправлено: 25 Августа, 2012 - 06:30:05
Post Id



Активный участник


Покинул форум
Сообщений всего: 4555
Дата рег-ции: Февр. 2007  
Откуда: Симферополь


Помог: 98 раз(а)




дурная идея хранить столько файлов-то...

Храните в БД. Если БД получается большая то разносите базу по хостам. + Хранить такие данные в mysql заранее идиотская идея. Оно вам потом с БД грести данные по полчаса будет. Nosql вам в помощь.

Конечо лучше заранее подробнее описывать задачу и тип хранимых данных, дабы не гадать что вы там городите за сверхсекретную базу данных Арктурианского флота Седьмой галактики.


-----
Список фильмов с описанием, блекджеком и... для Joomla? -> https://киноархив[dot]com
Демо нового движка для сайта php.su -> php[dot]su, проект на гитхабе
 
 Top
caballero
Отправлено: 25 Августа, 2012 - 11:51:17
Post Id


Активный участник


Покинул форум
Сообщений всего: 5998
Дата рег-ции: Сент. 2011  
Откуда: Харьков


Помог: 126 раз(а)




Цитата:
результат поиска, найдено страниц гуглом, а значит индексировано - естественно не каких то там, а именно сайта

гугл нашел на твоем сайте 14 600 000 страниц?
а можно полюбопытствовать что за сайт такой и как эта цифра получена.
терзают смутные сомнения - либо ты врешь либо не понимаешь о чем говоришь вообще.
как это связано с кешированием и БД я уже даже не спрашиваю.


-----
Бесплатная система складского учета с открытым кодом https://zippy[dot]com[dot]ua/zstore
 
 Top
lowmax
Отправлено: 25 Августа, 2012 - 14:33:21
Post Id



Новичок


Покинул форум
Сообщений всего: 39
Дата рег-ции: Апр. 2012  


Помог: 0 раз(а)




caballero пишет:
Цитата:
результат поиска, найдено страниц гуглом, а значит индексировано - естественно не каких то там, а именно сайта

гугл нашел на твоем сайте 14 600 000 страниц?
а можно полюбопытствовать что за сайт такой и как эта цифра получена.
терзают смутные сомнения - либо ты врешь либо не понимаешь о чем говоришь вообще.
как это связано с кешированием и БД я уже даже не спрашиваю.


личный блог, блин
пишу каждую ночь статьи уже 100 лет Улыбка

зы в таблице столько же значений, при чем тут гугл, при том что кэшировать проще когда бот заходит, походу ты не догоняешь

(Отредактировано автором: 25 Августа, 2012 - 14:47:42)

 
 Top
caballero
Отправлено: 25 Августа, 2012 - 14:43:10
Post Id


Активный участник


Покинул форум
Сообщений всего: 5998
Дата рег-ции: Сент. 2011  
Откуда: Харьков


Помог: 126 раз(а)




ссылку можно? Блог с таким посещением должен быт супер популярным в инете.


-----
Бесплатная система складского учета с открытым кодом https://zippy[dot]com[dot]ua/zstore
 
 Top
lowmax
Отправлено: 25 Августа, 2012 - 14:54:20
Post Id



Новичок


Покинул форум
Сообщений всего: 39
Дата рег-ции: Апр. 2012  


Помог: 0 раз(а)




caballero пишет:
ссылку можно? Блог с таким посещением должен быт супер популярным в инете.


отправил в личку
 
 Top
caballero
Отправлено: 25 Августа, 2012 - 15:12:39
Post Id


Активный участник


Покинул форум
Сообщений всего: 5998
Дата рег-ции: Сент. 2011  
Откуда: Харьков


Помог: 126 раз(а)




Вася, ты просто вводишь в гугл адрес сайта. понятно что он его же и находит. Только смысл в этом какой.
Ты попробуй поиск по ключевой фразе. Сомневаюсь что он вообще что нибудь найдет.

По такой экзотике как путеводитель по кубе он конечно вернул ОДНУ ссылку а вот по "В.Ф. Дунаев Web-програмирование для всех " уже фигвам

кроме того ссылки ведут в основном на pdf файлы. При чем тут Mysql, кеширование и твой блог.

Радует одно - ты не врешь - просто ни фига не смыслишь чего пишешь.


-----
Бесплатная система складского учета с открытым кодом https://zippy[dot]com[dot]ua/zstore
 
 Top
Stierus Супермодератор
Отправлено: 25 Августа, 2012 - 17:43:28
Post Id



Рекордсмен по количеству сообщений за 7 дней


Покинул форум
Сообщений всего: 2132
Дата рег-ции: Дек. 2008  
Откуда: Москваль


Помог: 52 раз(а)




1) Если бд кипит - шардируйе ее
2) Для кэша используйте memcached или redis
3) Гугл выдает результат по одному из разделов сайта 14 600 000 это он пишет, по факту он даст открыть максимум gthdst 1000 результатов, все что дальше - он пишет "Извините, но Google не выдает более 1000 результатов, а вы запросили результаты с номера 1230."
 
My status
 Top
Страниц (1): [1]
Сейчас эту тему просматривают: 0 (гостей: 0, зарегистрированных: 0)
« Хранение данных, их вывод и обработка »


Все гости форума могут просматривать этот раздел.
Только зарегистрированные пользователи могут создавать новые темы в этом разделе.
Только зарегистрированные пользователи могут отвечать на сообщения в этом разделе.
 



Powered by PHP  Powered By MySQL  Powered by Nginx  Valid CSS  RSS

 
Powered by ExBB FM 1.0 RC1. InvisionExBB