А какая функция?Можно проверить эти точки если подставить каждую координату в функцию к примеру:
A(5;11)
x=5 , y=11
Если функция "выполняется" то точки принадлежат ей:
к примеру:y=2x+1
подставим
2*5+1=11
значить точка принадлежит и так со второй точкой