АВСДА1В1С1Д1 - правильная призма. Плоскость проходит через диагональ основания АС и вершину В1.
В получившемся тр-ке АСВ1 ∠АВ1С=α, АВ1 и СВ1 - диагонали боковых граней.
АС=АВ√2=а√2.
Точка О - середина диагонали АС.
В тр-ке АОВ1 ∠АВ1О=α/2, АО=АС/2=а√2/2, АВ1=АО/sin(α/2)=a√2/2sin(α/2).
В тр-ке АВ1В ВВ1²=АВ1²-АВ²=[а²/2sin²(α/2)]-a²=[a²/(1-cosα)]-a²=a²·cosα/(1-cosα)
Площадь боковой поверхности: S=PH=4АВ·ВВ1.
S=4a²·√[cosα/(1-cosα)] - это ответ.
P.S. Использована формула тригонометрического тождества cos2α=1-2sin²α.