Если гвоздь вбит на всю длину, и если сила, с которой надо двигать гвоздь, всё время одна и та же - 100 Н, то работа просто равна произведению силы на длину гвоздя:
A=F₀*L = 100*0.1 = 10 Дж. (1)
Если сила уменьшается по мере освобождения гвоздя, достигая 0 при освобождении кончика и если эта сила пропорциональна глубине погружения гвоздя (сила зависит от глубины погружения гвоздя x по закону F = F₀(L-x) )
то можно доказать, что
A = F₀*L/2 = 100*0.1/2 = 5 Дж
Полагаю, впрочем, что авторы задания предполагали менее реалистическую картину вытаскивания гвоздя из доски - по типу (1)