Как четно-нечетный алгоритм считает ребра полигонов?

Мне нравится делать это так, как для целых чисел, так и для координат с плавающей запятой:

• для негоризонтальных сегментов каждый сегмент включает самую нижнюю точку, но не самую верхнюю точку.

• вообще не включайте горизонтальные сегменты в подсчет четных-нечетных.

Это гарантирует, что подсчет четных-нечетных будет правильным для каждой точки внутри полигона и каждой точки снаружи, но он не совсем согласован в отношении точек точно на границе. Если это важно для вас, вы можете добавить правило, согласно которому любая точка, которая фактически находится на сегменте, включается в полигон.

есть и другие способы решения этой проблемы, но самый безопасный, который я знаю, это

Слегка измените направление лучей

это численно безопасно, но реализация не так проста, как кажется. Либо измените весь луч и вычислите с самого начала, либо измените где-нибудь перед рассматриваемым попаданием.

Вы должны убедиться, что вы не образуете тесные петли, например, зигзагообразным рисунком (таким образом, вы чередуете повороты CW и CCW в пределах некоторого конуса от исходного направления).

В случае, когда луч точно параллелен и также касается края вашего многоугольника, либо игнорируйте такое ребро, либо посчитайте его дважды, либо снова измените направление луча.

Изменение направления луча всегда безопасно, поскольку позволяет избежать сингулярностей и численной нестабильности.

Кстати. Этот алгоритм внутри многоугольника, который вы используете, хорошо известен под названием Hit test.