Я изложу свои догадки, может они помогут. Сам я не особо соображаю сейчас...
х - [х] = {х} ({х} - дробная часть)
в точках 1, 2, 3 ..., 10 эта часть равна нулю => и значение функции - ноль
функцию можно переписать как f(x) = х×{х}
может первообразная равна {х³/3} (дробная часть этого выражения... Тут я уже не уверен нисколько, так как в таком случае нет никакого отличия определенного интеграла этой ф-ции от ф-ции х²
Думаю надо думать и копать в русле (х - [х]) = {х}. А может и заменить переменную интегрирования