Warning: Cannot use a scalar value as an array in /home/admin/public_html/forum/include/fm.class.php on line 757

Warning: Invalid argument supplied for foreach() in /home/admin/public_html/forum/include/fm.class.php on line 770

Warning: Invalid argument supplied for foreach() in /home/admin/public_html/forum/topic.php on line 737
Форумы портала PHP.SU :: serialize/unserialize и UTF-8 [2]

 PHP.SU

Программирование на PHP, MySQL и другие веб-технологии
PHP.SU Портал     На главную страницу форума Главная     Помощь Помощь     Поиск Поиск     Поиск Яндекс Поиск Яндекс     Вакансии  Пользователи Пользователи


 Страниц (2): « 1 [2]   

> Без описания
Самогонщик
Отправлено: 09 Ноября, 2011 - 13:46:50
Post Id



Посетитель


Покинул форум
Сообщений всего: 495
Дата рег-ции: Окт. 2011  


Помог: 8 раз(а)




интересный факт: кодировка ебсдик используемая на майнфреймах не совпадает с ascii вообще никак, так что счастье, что коды английский символов совпадают во всех кодировках только кажущееся.
 
 Top
caballero
Отправлено: 09 Ноября, 2011 - 13:50:11
Post Id


Активный участник


Покинул форум
Сообщений всего: 5998
Дата рег-ции: Сент. 2011  
Откуда: Харьков


Помог: 126 раз(а)




Цитата:
но для меня было новостью что в utf-8
кирилица занимает в 2 раза больше чем для латиницы
и почему тогда не так же в win-1251?!


если вы явно указываете кодировку файла то на символ идет 1 байт
смысл юникода хранить данные разных языков в одном файле или строке
но байта на всех не хватит, поэтому нелатинские символы хранятся в двух и более байтах


Цитата:
Не слышал такого, хотелось бы пруфов именно для php.

значит не программируeте на СИ и тип wchar_t вам не знаком. А PHP на писан именно на нем.


-----
Бесплатная система складского учета с открытым кодом https://zippy[dot]com[dot]ua/zstore
 
 Top
Самогонщик
Отправлено: 09 Ноября, 2011 - 13:55:20
Post Id



Посетитель


Покинул форум
Сообщений всего: 495
Дата рег-ции: Окт. 2011  


Помог: 8 раз(а)




caballero пишет:
значит не программируeте на СИ и тип wchar_t вам не знаком.
Не, только на С++, но там всё зависело от деректив компилятора.

http://ru[dot]wikipedia[dot]org/wiki/Широкий_символ

Судя по этому результату быстрого гуления, не всё так просто. По крайней мере это точно не UTF-16.
 
 Top
caballero
Отправлено: 09 Ноября, 2011 - 14:07:56
Post Id


Активный участник


Покинул форум
Сообщений всего: 5998
Дата рег-ции: Сент. 2011  
Откуда: Харьков


Помог: 126 раз(а)




Как интерпретируется тот или иной тип зависит от компилятора и платформы

в любом случае интернациональные строки хранятся по два байта на символ
как правило это UFT16
так же точно хранит данные Java


-----
Бесплатная система складского учета с открытым кодом https://zippy[dot]com[dot]ua/zstore
 
 Top
Мелкий Супермодератор
Отправлено: 09 Ноября, 2011 - 14:25:59
Post Id



Активный участник


Покинул форум
Сообщений всего: 11926
Дата рег-ции: Июль 2009  
Откуда: Россия, Санкт-Петербург


Помог: 618 раз(а)




caballero пишет:
в любом случае интернациональные строки хранятся по два байта на символ

А вот и не по два. UTF же.

http://en[dot]wikipedia[dot]org/wiki/Wide_character
Цитата:
The Microsoft Windows application programming interfaces Win32 and Win64, as well as the Java and .Net Framework platforms, require that wide character variables be defined as 16-bit values, and that characters be encoded using UTF-16 (due to former use of UCS-2), while modern Unix-like systems generally require 32-bit values encoded using UTF-32.

Цитата:
The ISO/IEC C programming language, which generally uses the datatype wchar_t for wide characters, originally defined that wide characters should be 16-bit values under C90 due to historical compatibility reasons. C and C++ compilers that comply with the 10646-1:2000 Unicode standard generally assume 32-bit values.

Ну и так далее. В общем,
Цитата:
The width of wchar_t is compiler-specific


-----
PostgreSQL DBA
 
 Top
caballero
Отправлено: 09 Ноября, 2011 - 14:37:46
Post Id


Активный участник


Покинул форум
Сообщений всего: 5998
Дата рег-ции: Сент. 2011  
Откуда: Харьков


Помог: 126 раз(а)




Цитата:
А вот и не по два.

в некоторых компиляторах и платформах может быть 4

Цитата:
The width of wchar_t is compiler-specific

(Отредактировано автором: 09 Ноября, 2011 - 14:39:05)



-----
Бесплатная система складского учета с открытым кодом https://zippy[dot]com[dot]ua/zstore
 
 Top
Самогонщик
Отправлено: 09 Ноября, 2011 - 16:09:47
Post Id



Посетитель


Покинул форум
Сообщений всего: 495
Дата рег-ции: Окт. 2011  


Помог: 8 раз(а)




Удовлетворительный ответ о представлении символов в пхп так и не получен.

Аргументы про явы и сишарпы вообще не аргументы Улыбка
 
 Top
caballero
Отправлено: 09 Ноября, 2011 - 16:16:51
Post Id


Активный участник


Покинул форум
Сообщений всего: 5998
Дата рег-ции: Сент. 2011  
Откуда: Харьков


Помог: 126 раз(а)




представление символдов в PHP - забота разработчиков PHP
Остальным предлагаются функции работы со строками. В частности mb_ функции если речь идет о кодировках


-----
Бесплатная система складского учета с открытым кодом https://zippy[dot]com[dot]ua/zstore
 
 Top
Самогонщик
Отправлено: 09 Ноября, 2011 - 16:29:16
Post Id



Посетитель


Покинул форум
Сообщений всего: 495
Дата рег-ции: Окт. 2011  


Помог: 8 раз(а)




caballero пишет:
представление символдов в PHP - забота разработчиков PHP

Да ну? А как вот эта цитатка?
caballero пишет:
PHP вообще хранит строчные данные в UTF16


Вообще думать на один уровень абстракции ниже используемой очень полезно.

CODE (C):
скопировать код в буфер обмена
  1. BEGIN_EXTERN_C()
  2. PHPAPI size_t php_strlcpy(char *dst, const char *src, size_t siz);
  3. END_EXTERN_C()
  4. BEGIN_EXTERN_C()
  5. PHPAPI size_t php_strlcat(char *dst, const char *src, size_t siz);
  6. END_EXTERN_C()

Вот такие вещи я нашёл здесь https://svn.php.net/repository/p...5_3_8/main/php.h тут видно что используются обычные чары. Конечно нужно копать глубже....

Но я считаю что пхп хранит строки одно байтовыми символами, т.к. к строкам возможно обращение как к массиву. В простейшей реализации навигация по такому массиву была бы по символам, а не по байтам. Да, можно кастануть к чар*, но тогда бы появились дыры, т.к. только один байт из двух (четырёх) содержал бы значения, а оставшиеся были пустые. Третий вариант, что они делают умное итерирование по строке пропуская все пустые байты, я отбрасываю как бредовый.
 
 Top
caballero
Отправлено: 09 Ноября, 2011 - 17:09:23
Post Id


Активный участник


Покинул форум
Сообщений всего: 5998
Дата рег-ции: Сент. 2011  
Откуда: Харьков


Помог: 126 раз(а)




Значит используют "широкие" символы в mb_ функциях а в остальных используют обычные char

Цитата:
В простейшей реализации навигация по такому массиву была бы по символам,

обычно так и делаю при работе со строками
если нужно пройтись по строке то понятно что по символам а не по байтам

(Отредактировано автором: 09 Ноября, 2011 - 17:11:36)



-----
Бесплатная система складского учета с открытым кодом https://zippy[dot]com[dot]ua/zstore
 
 Top
Саныч Модератор
Отправлено: 09 Ноября, 2011 - 23:00:25
Post Id



Участник


Покинул форум
Сообщений всего: 1365
Дата рег-ции: Июль 2010  
Откуда: Украина, Запорожье


Помог: 62 раз(а)




DlTA пишет:
но для меня было новостью что в utf-8
кирилица занимает в 2 раза больше чем для латиницы
и почему тогда не так же в win-1251?!

2 это не предел для utf. Один символ может занимать от 1 до 4 байт... Латиница - один, на кирилицу - по два байта, а вот если забить иероглиф какой-то, то может быть три или даже четыре...

А вот 1251 - это однобайтовая кодировка, соответственно все по одному


-----
Все возражают против того, что я гений, хотя никто еще так меня не назвал. - Орсон Уэллс
 
 Top
Страниц (2): « 1 [2]
Сейчас эту тему просматривают: 0 (гостей: 0, зарегистрированных: 0)
« Кодировки и все смежное »


Все гости форума могут просматривать этот раздел.
Только зарегистрированные пользователи могут создавать новые темы в этом разделе.
Только зарегистрированные пользователи могут отвечать на сообщения в этом разделе.
 



Powered by PHP  Powered By MySQL  Powered by Nginx  Valid CSS  RSS

 
Powered by ExBB FM 1.0 RC1. InvisionExBB