В первые месяцы своего правления он провозгласил курс, направленный на социально-экономические преобразования. Однако все изменения во многом свелись к административным мерам, укреплению дисциплины среди работников партаппарата и на рабочих местах, разоблачению коррупции в близком окружении правящей верхушки. В некоторых городах СССР силовые органы стали применять меры, жёсткость которых в 1980-е годы населению показалась необычной. Например, в Ленинграде в рабочее время стали проводиться милицейские облавы в кинотеатрах, крупных универмагах и других местах скопления людей, во время которых тотально проверялись документы с целью выявить прогульщиков работы. Твёрдость проверок была такова, что в некоторые из них попадали прогуливающие уроки школьники, решившие посетить полуденный сеанс кино. Через несколько дней на имя директора школы приходило официальное письмо из силовых органов, докладывавшее о поимке прогульщиков с указанием фамилий. За несколько недель Ленинград погрузился в ужас перед новым режимом, и прогульщики предпочитали сидеть дома, боясь показаться на улице.
При Андропове начался массовый выпуск лицензионных грампластинок популярных западных исполнителей тех жанров (рок, диско, синти-поп), которые раньше считались идеологически неприемлемыми — это должно было подорвать экономическую базу спекуляции грампластинками и магнитными записями.