В зоомагазине 3 большие рыбы и 3 маленькие рыбы дороже за 3 большие рыбы и одной...

если правильно поня условие, то

цена за большую - $x$ ;

цена за маленькую - $y$ ;

$\atop \begin{cases} 3x+3y-(3x+y)=20;\\x=2y.\end{cases}$

тогда $\begin{cases} 2y=20;\\x=2y.\end{cases}\Rightarrow \begin{cases} y=10; \\x=2y.\end{cases}$

Значит стоимость большой и маленькой - $x+y=3y=30$