значение ошибки не обновляется

Никакая библиотечная функция не устанавливает errno в ноль. Если вы хотите обнулить его, ваша программа должна это сделать.

Вы можете осмысленно проверить errno для получения информации только тогда, когда функция сообщает, что она не удалась (и даже в этом случае, только если на ее справочной странице указано, что она устанавливает errno). Вы можете обнаружить, что errno установлено в ненулевое значение успешной функции. Например, в Solaris вы часто найдете ENOTTY в errno после стандартного вызова ввода-вывода при записи в файл вместо терминала.

В вашем примере нет гарантии, какое из нескольких возможных значений ошибки будет установлено данным ошибочным вызовом функции. Пока сообщается об одном действительном условии ошибки, система сама решает, о какой ошибке она сообщает. Итак, вам нужно привести убедительный пример того, почему второй вызов должен возвращать EINVAL вместо EBADF; ваш вопрос в том виде, в котором он написан, не содержит достаточно информации, чтобы позволить нам рассуждать.

Также обратите внимание, что единственный безопасный способ объявить errno — через заголовок: #include <errno.h>. В частности, в многопоточных средах это часто не просто extern int errno;. Например, в Mac OS X это можно определить как:

extern int * __error(void);
#define errno (*__error())

То есть __error — это функция, возвращающая указатель на целое число, а errno — это макрос, который разыменовывает этот указатель, становясь модифицируемым lvalue.

Анализ кода

Данный код:

socket (AF_INET, -1, 0);
socket (AF_INET, SOCK_STREAM, -1);

Преобразованный в исполняемый код, это может стать:

#include <errno.h>
#include <stdio.h>
#include <string.h>
#include <sys/socket.h>
#include <unistd.h>

int main(void)
{
    int fd1 = socket(AF_INET, -1, 0);
    if (fd1 < 0)
        printf("Error from socket(AF_INET, -1, 0): %d (%s)\n", errno, strerror(errno));
    else
    {
        printf("socket(AF_INET, -1, 0) succeeded (fd = %d)\n", fd1);
        close(fd1);
    }
    printf("-- errno = %d (%s)\n", errno, strerror(errno));

    int fd2 = socket(AF_INET, SOCK_STREAM, -1);
    if (fd2 < 0)
        printf("Error from socket(AF_INET, SOCK_STREAM, -1): %d (%s)\n", errno, strerror(errno));
    else
    {
        printf("socket(AF_INET, SOCK_STREAM, -1) succeeded (fd = %d)\n", fd2);
        close(fd2);
    }
    printf("-- errno = %d (%s)\n", errno, strerror(errno));

    int fd3 = socket(AF_INET, SOCK_STREAM, 0);
    if (fd3 < 0)
        printf("Error from socket(AF_INET, SOCK_STREAM, 0): %d (%s)\n", errno, strerror(errno));
    else
    {
        printf("socket(AF_INET, SOCK_STREAM, 0) succeeded (fd = %d)\n", fd3);
        close(fd3);
    }
    printf("-- errno = %d (%s)\n", errno, strerror(errno));

    return(0);
}

Работая в Mac OS X 10.7.3, это производит:

Error from socket(AF_INET, -1, 0): 43 (Protocol not supported)
-- errno = 43 (Protocol not supported)
Error from socket(AF_INET, SOCK_STREAM, -1): 43 (Protocol not supported)
-- errno = 43 (Protocol not supported)
socket(AF_INET, SOCK_STREAM, 0) succeeded (fd = 3)
-- errno = 43 (Protocol not supported)

Как я уже говорил ранее, возвращаемая ошибка зависит от системы.

errno никогда не очищается стандартными библиотечными функциями, а только устанавливается. Кроме того, он может быть ложно установлен любой стандартной библиотечной функцией, которая не задокументирована иным образом, чтобы запретить такое поведение.

По сути, единственный правильный способ использования errno — это проверять его сразу после того, как стандартная библиотечная функция возвращает значение, указывающее на ошибку, и сохранять его в другой переменной, если вам нужно сохранить его на потом.

С select и большинством системных вызовов возвращаемое значение, указывающее на ошибку, равно -1, что означает, что вы должны проверять errno только в том случае, если он возвращает -1.