всё просто:
есть такая теорема о соотношении сторон и углов треугольника (против большей стороны лежи больший угол)
значит наибольший угол лежит против стороны 8, тогда, обозначим что стороны α=6,β=7,γ=8
так же мы знаем, что в прямоугольном треугольнике наибольший угол -прямой(90градусов)
по теореме о значении косинуса, мы знаем что cos 90=0