１９６４年のフルシチョフ解任後に、代わってソ連首相となり、共産党第一書記のブレジネフとコンビを組んで、１９８０年までソ連の指導部を構成した。共産党の経済官僚としての経験が長く、主として内政で東西冷戦期のソ連をリードした。１９６５年には経済の改革に乗りだし、生産性と利潤を重視し、今までの中央集権的、官僚的な経済政策を改め、市場メカニズムの導入を図った。これは利潤導入方式経営といわれ、ソ連経済を西側資本主義経済に対応させる試みであったが、１９７０年代に保守的な党内勢力の反対によって途中で挫折した。この改革はペレストロイカの先駆として見直されるようになった。その経済改革は実現せずに終わったが、コスイギンはなお地位にとどまり、ブレジネフ政権を支え、１９８０年に死去。