Размеры сосуда подразумеваются достаточно большими, и, к тому же, вам никто не сказал что сосуд прозрачный.
К задаче. По закону преломления лучи, выходящие из воды, будут рассеиваться. Если рассматривать лучи. удаляясь от центра, то преломленный луч в какой-то момент "ляжет" на поверхность воды, т.е. не пойдёт наверх. Именно это удаление от центра необходимо найти. Вот вкратце философия данной задачи.
Ввод обозначений. h - глубина, на которой находится источник света. r - искомый радиус диска, то есть такое расстояние на поверхности воды от центра, на котором преломленный луч ложится на поверхность. a (альфа) - угол падения, т.е. угол между лучём входящим в поверхность раздела двух сред и нормалью к этой поверхности. b (бета) - угол между направлением выходящего луча и нормалью к поверхности воды.
Запишем, что h=0.4 м, b=0. Также для удобства определим n_a - показатель преломления воздуха, n_w - показатель преломления воды.
Решение.
По закону преломления запишем sin(a)/sin(b)=n_w/n_a. (*)
Если сделать правильный рисунок, нетрудно видеть, что sin(a)=r/sqrt(h^2+r^2).
sin(b)=1, т.к. b=pi/2.
Подставляя эти синусы в уравнение (*), получаем уравнение, решив которое относительно r, найдём ответ.