libmagic закрыть файловый дескриптор в NetBSD

Я пишу FastCGI для обеспечения zlib-сжатия статического содержимого для веб-провайдеров, которые этого не делают, и у меня возникли проблемы с mmap()в NetBSD.

#include <magic.h>
#ifndef MADV_DONTFORK
#define MADV_DONTFORK 0
#endif
#ifndef MADV_MERGEABLE
#define MADV_MERGEABLE 0
#endif
#ifndef MADV_HUGEPAGE
#define MADV_HUGEPAGE 0
#endif
#ifndef MADV_DONTDUMP
#define MADV_DONTDUMP 0
#endif

struct stat sb;
int fd=strcatn_open((char *)REQUEST_URI,"index.html")?:strcatn_open((char *)REQUEST_URI,"index.htm")?:open(REQUEST_URI, O_RDONLY);
if (fd==0)
    HTTP_Return_Code("Status: 404 Not Found");
if(!strcmp(HTTP_CACHE_CONTROL?:"ch","no-cache")) { //avoid to compare with a NULL pointer
    if(IfModifiedSince)
        if(tdate_parse((char *)IfModifiedSince)==sb.st_mtime) // UNIX : can compare directly
            HTTP_Return_Code("Status: 304 Not Modified\nCache-Control: public; max-age=2678400");
    if(IfUnmodifiedSince)
        if(tdate_parse((char *)IfUnmodifiedSince)==sb.st_mtime) // UNIX : can compare directly
            HTTP_Return_Code("Status: 304 Not Modified\nCache-Control: public; max-age=2678400");
}
strftime(LastModified, sizeof(char)*30, "%a, %d %b %Y %H:%M:%S GMT", gmtime(&(sb.st_mtime)) ); // RFC1123 format : "%a, %d %b %Y %H:%M:%S GMT"
magic_t mime_type=magic_open(MAGIC_PRESERVE_ATIME|MAGIC_DEVICES|MAGIC_SYMLINK|MAGIC_MIME|MAGIC_COMPRESS);
magic_load(mime_type,NULL); // load default magic database
posix_fadvise(fd,0,sb.st_size,POSIX_FADV_SEQUENTIAL | POSIX_FADV_NOREUSE | POSIX_FADV_WILLNEED);
send_HTTP_Headers("Content-encoding: gzip\nContent-Type: %s\nLast-Modified: %s\n",magic_descriptor(mime_type,fd),LastModified);
magic_close(mime_type);

//the problem is here
void * HTTP_file=mmap(NULL,sb.st_size,PROT_READ,MAP_SHARED|MAP_FILE,fd,0);
if(HTTP_file==(void *)-1)
    err(1,"errno=%d",errno);
uLong maxCompressLen=compressBound(sb.st_size);
Bytef* destbuffer=(Bytef *)malloc((size_t)maxCompressLen);
compress2(destbuffer,&maxCompressLen,(const Bytef *)HTTP_file,sb.st_size,Z_BEST_COMPRESSION);
munmap(HTTP_file,sb.st_size);
close(fd);
madvise(destbuffer,(size_t)maxCompressLen,MADV_SEQUENTIAL | MADV_WILLNEED | MADV_DONTFORK | MADV_MERGEABLE | MADV_HUGEPAGE | MADV_DONTDUMP);
write(STDOUT_FILENO, destbuffer, (size_t)maxCompressLen);

Когда я переключаю функции fastCGI на printf()/scanf() для отладки, я получаю это в NetBSD:

Content-encoding: gzip
Content-Type: text/html; charset=utf-8
Last-Modified: Wed, 27 May 2015 01:15:28 GMT

компрессор: errno=9: Неверный файловый дескриптор, соответствующий EBADF, описанный на справочной странице mmap asfd is not a valid open file descriptor. Чего я не понимаю, так как дескриптор файла кажется мне вполне подходящим, поскольку он работает с fstat и libmagic. Когда я монтирую файловую систему NetBSD поверх sshfs и компилирую/запускаю код для Linux, я получаю:

Content-encoding: gzip
Content-Type: text/html; charset=utf-8
Last-Modified: Wed, 27 May 2015 01:15:28 GMT

xڭW_o�6/���d�I�8��4��+4-0��E�,������(Я����3�a�&��
;R�#�v�
       �X�����~w��Ͽ��%��▒(��wd@���,%,�ڀ�Mã�5�Y[����a�k��4<SyI�H$���B�
                                                                     �=C{iAs▒S�Riې�     n�!��`��"
a��aT°�Mô(�PEC�6IZ�L�mBR��9

�cb�S:u+"���j��0:�c ��ϿSƠr��BwÐ<^jE�4���?��`�����SyL
                                        �-۾m��̘x�9E�_�ũ�\��l����2V夞%���f�
�� F�k}7A��Q���0b                                                        y)�����▒!����ހ�h�ߗCR�Ǣ▒��ҥ2`"�D�[B����s������1p�ajz#R"-y���
a*$��ZML0▒ĵ����H߶�&?�z��1��     -8y�Uq\��S�.ΉJ� !��3^8.(y_����G�?����
                                                                     �M����L���.�Цi�0zu����n�W�Nw������n��-��X v^bJZ���qc%9��   ����^V
                                                                                                                                      ��ݾ%:e[
?5Q▒�+▒$��=�9�*�&1�����0�ƺ5�:▒"�*q5��4                                                                                                       L�;D٦U46��H��j�rw�|��PH6���O9�q�U5��k���ޏ���2U6��Y����R    ��iS��'��K9)��m�(��V���qf����9՘*���
����y�����@VqɌ)��ո�������%�s��WLo��j�ǯ.p��nW_l���X
P�nK��F0���m.*�k$*$~a���9W�&                      �s%�6�ö�A�▒�� �.G��oc���
                            �(���}@▒��L
'K�����z��@�D���l6�$
         �0▒�E=@VtB�FW�������:�r�%E�M��mw�)i���;_�^0z   �AG+RRYgg˖[)�i�*BFW�I���v��3m���)�駖��i�r.)Cz��+�-������Q~\b\b%V▒u)b۠�-��N�e4Vj��Z
S�`�VW����s�(�.֪z���ܤ���h���Wm�^a0;U9�;�K�`���bR�������a��뇗A�UpMuc6
                                                                   0<�K�>��Q��pB<��NyyB�*�$<�Ǎ|��'�7XԌ��C(
�}r�|N▒٠�       0[��N�$��y���!�y���4<>L���������|�ݧNQ[�:v���Ng/Xض▒�8
^�h�s���L���Z�����Ѐ�����?ꌲ
1������R�J8���.IL��f���Wv�N��w�&c���-d����%>�_�/��4R®�S�C6a��-�1C��
                                                                   ���^�G�k~q}���Ӎ�V�@� Y�$uo▒Ĺf�4q��
                                                                                                     �Ȓ�k���
                                                                                                            Xn�'>kn�>[�WO���(P�l�[jZ�R0#�
                                                                                                                                         �>��ͨ�׸-�>�ƶ�H)+����z�S����x,�������p�▒j���ǹ���7Rg]�k~���b��֯[o�[��_���_�F^F

Это означает, что тот же код работает в Linux без каких-либо изменений.

Дополнительная информация:

  • uname -a в NetBSD возвращаетNetBSD odin 6.1.2 NetBSD 6.1.2 (GENERIC) amd64
  • uname -a в Linux возвращаетLinux localhost.localdomain 3.16.0-rc7-ck2 #1 SMP Fri May 1 13:38:34 CEST 2015 x86_64 GNU/Linux
  • gcc-4.5.3 — версия компилятора для NetBSD.
  • gcc-4.9.2 — версия компилятора для Linux.
  • обе архитектуры одинаковы, и оба компилятора используют одни и те же общие флаги со всеми отключенными оптимизациями.

Обновлять

кажется, что по неизвестной причинеmagic_descriptor()закрывается файловый дескриптор в NetBSD, и действительно следующий простой код не работает:

// test case for a libmagic bug. Libmagic is part of NetBSD packages and is used with the file command
#include <errno.h>
#include <err.h>
#include <magic.h>
#include <sys/types.h>
#include <sys/mman.h>
#include <fcntl.h>
#include <stdio.h>
#include <stdlib.h>
#include <unistd.h>
/* gcc test.c -o test
./test a_regular_file_with read permissions*/
int main(int argc,char * argv[]) {
        int fd=open(argv[1],O_RDONLY); // set fd to 8
        struct stat sb;
        fstat(fd, &sb);

        magic_t mime_type=magic_open(MAGIC_PRESERVE_ATIME|MAGIC_DEVICES|MAGIC_SYMLINK|MAGIC_MIME|MAGIC_COMPRESS);
        magic_load(mime_type,NULL); // load default libmagic database
        printf("Content-encoding: gzip\nContent-Type: %s\n\r\n",magic_descriptor(mime_type,fd)); // after this fd still ==8 but the file is closed whereas it shouldn’t. And indeed it doesn’t on SUA and Linux distros.
        //magic_close(mime_type);

        void * HTTP_file=mmap(NULL,sb.st_size,PROT_READ,MAP_SHARED|MAP_FILE,fd,0); // always returns -1
        if(HTTP_file==(void *)-1)
                err(1,"errno=%d",errno); // errno is equal to 9 which mean the file descriptor is invalid
        write(STDOUT_FILENO, HTTP_file, sb.st_size);
}

person user2284570    schedule 03.06.2015    source источник
comment
Где и как открыть дескриптор?   -  person Some programmer dude    schedule 03.06.2015
comment
Вы уверены, что orустановка флагов для posix_fadvise() разрешена?   -  person EOF    schedule 03.06.2015
comment
@JoachimPileborg: Просто прочитайте код, который я разместил, int fd=strcatn_open((char *)REQUEST_URI,"index.html")?:strcatn_open((char *)REQUEST_URI,"index.htm")?:open(REQUEST_URI, O_RDONLY);гдеREQUEST_URIэто URL-адрес, отправленный веб-браузером.   -  person user2284570    schedule 03.06.2015
comment
@EOF: Да, я в этом уверен, и действительно, если я прокомментирую outposix_fadvise(), это ничего не изменит.   -  person user2284570    schedule 03.06.2015
comment
Ну, если вы уверены в этом, то не сделаете это правильно: pubs. opengroup.org/onlinepubs/009695399/functions/: [...] Совет, который следует применить к данным, определяется параметром совета и может быть одним из следующих значений: [...] (выделено мной).   -  person EOF    schedule 03.06.2015
comment
Где вызов stat() или fstat() для заполнения struct stat sb? Кроме того, что произойдет, если open() завершится ошибкой и вернет -1? Я не знаю точно, но сомневаюсь, что open() возвращает 0 при ошибке в NetBSD.   -  person Andrew Henle    schedule 03.06.2015


Ответы (1)


Как мог бы сказать вам Google, это была неправильная функция/ошибка в исходном коде:

0000276: magic_descriptor() закрывает основной файловый дескриптор (fd) по завершении

Вам, вероятно, следует относиться к этому как к известному поведению magic_descriptor() во всех выпусках file и libmagic до 5.18. т.е. не ожидайте, что дескриптор останется открытым после этого вызова, если только вы не знаете, что используете более позднюю версию.

Исправленный релиз file будет включен в NetBSD 7.0 - мягкое обращение в соответствующий список рассылки NetBSD с просьбой о подтягивании к ветке текущего релиза может также включить его в следующий релиз NetBSD-6.x.

person Greg A. Woods    schedule 04.06.2015
comment
Это не решает проблему, так как мой провайдер веб-хостинга не будет обновляться до NetBSD 7 в течение нескольких лет. Конечно! Более того, я не root. Это похоже на bugs.gw.com/view.php?id=455. - person user2284570; 04.06.2015
comment
Я не понимаю проблемы. Теперь вы знаете, что это особенность magic_descriptor() — смиритесь с этим! Либо заново откройте файл, либо сначала продублируйте дескриптор, либо что-то другое, что имеет для вас смысл. - person Greg A. Woods; 04.06.2015
comment
или просто используйте источник последней версии напрямую - person Greg A. Woods; 04.06.2015
comment
Из-за того, что я bugs.gw.com/view.php?id=455 перепишу эту часть сам. Так как я ничего не могу установить (не говоря уже о том, что /bin/cat и make не установлены). И только потом я опубликую свой ответ. - person user2284570; 04.06.2015
comment
Оправдания. Вы по-прежнему можете использовать оригинальный исходный код (как только он появится на зеркале github) — вам не нужно ничего устанавливать, просто встройте его (статическую ссылку) во все, что вы создаете! - person Greg A. Woods; 04.06.2015
comment
Как я должен построить его без кота и сделать? - person user2284570; 04.06.2015
comment
Где, черт возьми, вы компилируете то, что создаете и тестируете сейчас? Просто получите исходный файл, создайте его и свяжите с ним! - person Greg A. Woods; 04.06.2015
comment
И этот исходный файл требует некоторого определения в командной строке, которое может быть обнаружено только с помощью autotools/configure. Требуется переписывание. - person user2284570; 04.06.2015
comment
Не исходный файл - file источник. Проверьте все это с github на той же машине, на которой вы создаете свою программу. Соберите file в своем домашнем каталоге и установите libmagic в свой домашний каталог (./configure --prefix=$HOME). Свяжите свою программу со статической версией libmagic. Красный. Нет необходимости устанавливать что-либо новое на целевой машине (кроме, конечно, вашей программы). - person Greg A. Woods; 04.06.2015
comment
если я попытаюсь запустить configure, произойдет сбой, потому что он не может найти версии make и отсутствуют некоторые важные команды. - person user2284570; 04.06.2015
comment
Возможно, вам следует начать новый вопрос? Теперь вы знаете все ответы, обходные пути и альтернативы для решения проблемы в этом вопросе. - person Greg A. Woods; 04.06.2015
comment
Нет, это будет просто ждать недели, когда я перепишу код, чтобы опубликовать ответ. Или, может быть, короче, если кто-то опубликует такой ответ до меня. - person user2284570; 05.06.2015