В январе 1936 года Ю.В. Андропов начал свою карьерную лестницу по комсомольской линии, будучи избранным секретарём комитета комсомола в Рыбинском речном техникуме. Эта первая руководящая позиция совмещалась с его учебой в Рыбинском техникуме водного транспорта.
В ноябре 1936 года после завершения учебы в речном техникуме Юрий Андропов был избран комсоргом (комсомольским организатором) ЦК ВЛКСМ на судоверфи имени В. Володарского г. Рыбинска. Это была освобожденная должность для организации комсомольской деятельности предприятия.
Далее, с июля 1937 г., Андропов возглавил отдел пионерских организаций горкома комсомола г. Рыбинска и отвечает уже не за отдельное предприятие, а за пионерскую организацию всего города.
Яркого комсомольского лидера из Рыбинска вскоре замечают в областном центре. Через 16 дней после предыдущего назначения, с августа 1937 года, Юрий Андропов был назначен на должность заведующего отделом учащейся молодежи в обкоме ВЛКСМ г. Ярославля. Юрий Владимирович со своей семьей переезжает в Ярославль. Через короткое время он был назначен третьим секретарем Ярославского обкома ВЛКСМ.
Уже в декабре 1938 года Андропов занимает высший пост в ВЛКСМ Ярославской области – пост первого секретаря Ярославского обкома ВЛКСМ. На этом посту он руководит всем комсомолом Ярославской области, всеми горкомами и райкомами комсомола.
Столь «головокружительный» карьерный взлет Юрия Андропова обусловлен его деловыми и личными качествами, такими как ответственность, инициативность и высокая работоспособность. В 1938-1940 годах он привлек около семи тысяч комсомольцев на строительство Рыбинского и Угличского гидроузлов, за что позже был награжден орденом Трудового Красного знамени.
Комсомол в те годы, как и все общество, стал объектом «политических чисток», сопровождавшихся порой необоснованными политическими репрессиями. Пик массовых репрессий среди партийно-комсомольского аппарата пришелся как раз на 1937-1938 годы. В это время должности освобождались очень быстро, и у многих работников низшего звена получалось быстро продвигаться вверх по партийной лестнице.
Высокие деловые и личные качества Юрия Андропова отмечали, как рядовые комсомольцы, так и руководители Ярославской области. Среди них был первый секретарь Ярославского обкома ВКП(б) Патоличев Н.С., который высоко ценил Ю.В. Андропова и рекомендовал на должность Первого секретаря ЦК ВЛКСМ в только что созданную Карело-Финской ССР. В 1940 году Ю.В. Андропова назначают на эту должность, и на этом завершается «ярославский» период в жизни Юрия Андропова, и он переезжает в Петрозаводск.
В память о Ю.В. Андропова на доме №4 по улице Советской в Ярославле, где с 1938 по 1940 год проживал Юрий Андропов, установлена мемориальная доска.