Здравствуйте!
Да, у вас получилось не то, что вы ожидали, т.к. точки расположены не в том порядке, который нужен для заполнения пространства с помощью данного алгоритма.
Как мы поняли, точки описывают произвольную замкнутую область, которая должна быть залита некоторым цветом. Такая задача решается с помощью триангуляции данной площади, т.е. путём разбивки её на треугольники. Признаться, мы не знакомы с данными алгоритмами, но они достаточно хорошо описаны в интернете. Вам понадобится реализовать алгоритм в проекте САПР, но лучше оформить его в виде внешнего исходного кода, замещающего программный код функции вычисления или прорисовки. В качестве треугольника по-прежнему подойдёт полосный или веерный полигон, построенный по трём точкам. При написании внешнего программного кода, это должно делаться с помощью функции gfDrawPolygonFan или gfDrawPolygonStrip описанной в файле GraphLib.h .