Давай попробуем рассуждать логически.
Сначала вдумчиво посмотрим на планку. Внезапно обнаружим, что по условию она не движется. Следовательно сумма действующих на неё сил равна, как учил дедушка Ньютон, ровно нулю. Идеальному круглому нулю. Ок, а что же за силы на неё действуют? Это: сила тяжести mg, натяжение нити Т, и сила от зуба F. Так найдём же силу F.
Поскольку mg + T + F = 0, то F = -mg - T. Направим ось сил вверх, и подставим. F = - 6 * 10 - (- 12 * 10 ) = 6*10 = 60 H, и по ходу обратим внимание, что сила F действует на планку вниз.
Отлично. Теперь давай проделаем то же самое с зубчатым колесом. Перечислим действующие на него силы: Mg (вниз), T (вверх), F (вверх, ибо по 3-му закону дедушки Ньютона, действие равно противодействию - F на планку действует вниз, значит на колесо вверх), и некая сила в зацеплении со стеной R. Мы не знаем две силы: Mg и R. Как же быть?
Но зато мы знаем, что зубчатое колесо не вращается, и это нас спасает. А посчитаем-ка сумму моментов сил, действующих относительно точки зацепления колеса с левой стеной. При этом момент от силы R обнулится, потому что плечо этой силы равно нулю. А вот моменты остальных сил вдумчиво сложим. Давай слева от знака равенства запишем действующие силы вниз, а справа - действующие вверх. Радиус катушки примем в 1 китайский цунь, и будем измерять момент сил в Н*цунь.
Mg * 2 = T * 1 + F * 4
отсюда Mg = 1/2 * ( T + 4 * F )
подставим, получим
Mg = 1/2 * ( 12 * 10 + 4 * 60 ) = 1/2 * ( 120 + 240) = 1/2 * 360 = 180 H.
Следовательно, максимальная разрешённая масса зубчатого колеса М будет Mg / g = 180 / 10 = 18 кг. -- это ответ.
По ходу, мы можем определить и неизвестную силу R, действующую на колесо со стороны левой стенки, как сумму сил Mg, T, F , только с противоположным знаком. Это не спрашивается в задаче, поэтому оставлю это упражнение тебе, о читательница.