X^2 - ax + 4a = 0;
D = a^2 - 4*4a = a^1 - 16a>=0;
a∈(-∞; 0]∪[16; +∞); (*)
x1^2 + x2^2 = (x1+x2)^2 - 2*x1*x2 = (a^2) - 2*4a = 9;
a^2 - 8a - 9 = 0;
D/4 = 4^2 + 9 = 16+9 = 25 = 5^2;
a1 = 4-5 = -1;
a2 = 4+5 = 9, последнее не удовлетворяет условию (*).
Ответ. a=-1.