唐军收复长安后，刘晏于乾元二年（759）被任命为京兆尹，做了首都长安的行政长官。京兆尹是个重要的职务，也是个很难当得长久的官。在皇帝眼皮底下做官，周围还有不少地位比自己高、权力比自己大的王公官僚，倘若没有官场经验的人，要想在这个位子上周旋得开，那是很困难的。刘晏以才能升任，一不善于应酬，二又无靠山，不久就卷入一场政治纠纷，被贬了官。
司农卿严庄，因犯有通敌罪被捕入狱。刘晏作为京兆尹，就把他的住宅看管起来，加以监视。这是他职权范围的事，但却因此遭到严庄的忌恨。唐肃宗本来要严惩严庄，经不住严庄上下活动，最后不但赦免无罪，还亲自召见他。在肃宗面前，严庄诬告刘晏有野心，功居自傲，不尊重皇上，并告诉他泄露皇帝在宫中的讲话给别人听。皇上听到这些就信以为真。加上在上元元年（760）刘晏接替第五琦，出任户部侍郎、兼御史中丞、度支盐铁铸钱使，权力过大，引起宰相萧华的妒忌，也在皇帝面前说他的坏话。肃宗就不加分辨，在上元二年（761）将刘晏贬为通州刺史。
刘晏在通州作了半年刺史。唐肃宗去世，他的儿子李豫继位，是为代宗。代宗即位后不到两个月，就把刘晏召回京城，官复原职，继续加以重用。
宝应二年（763）正月，代宗升任刘晏为吏部尚书、同中书门下平章事，做了宰相，还兼度支等使。刘晏在朝廷，长期与宦官程元振交好，程元振因事获罪，一些人就攻击刘晏与程元振关系密切。于是，第二年就罢相，改为太子宾客。
两个月后，即广德二年（764）三月，刘晏又被任命为御史大夫，领东都、河南、江淮转运、租庸、盐铁、常平使，分理天下财赋。刘晏受命后，马上着手解决京师粮食和全国财政的问题。
当时正是安史之乱后，京师粮食奇缺，米价高到每斗一千钱，连宫廷膳房也没有隔夜粮，长安郊外的农民把还没有熟透的麦粒从麦穗上揉搓下来交纳，供军队用。
首先，他着手整顿江淮漕运。长安是全国的首都，人口稠密，周围所产粮食已不能满足需要。每年要从东南各地调进大量粮食，安史之乱后，原漕运路线破坏，漕运不畅通，因而发生粮荒。为解决漕运线路问题，刘晏亲自到各地勘察，他顺着黄河，察看三门峡漕运遗迹，到过硖（xia）石、河阴、洛口等许多地方。在获得第一手资料的基础上，总结以前的漕运经验，选取了由淮河经汴水入黄河，再由黄河转渭水到长安的运粮路线。在给宰相元载的信中，他详述了打通这条路线的好处和存在的问题，希望朝廷给予支持。当时，元载独揽朝廷大权，无暇顾及这些具体的事，得到刘晏的报告后，立即就把整治恢复漕运的事全部委派刘晏去办。
刘晏按照自己确定的漕运路线，在他的指挥下，征集民工，疏浚河道。经过大力整治，才使久已荒废的汴水畅通，打通了漕运路线的关键一步。
汴水一通，整个漕运就活了。接着，刘晏又整顿管理，改善航运方法，改革漕运组织，大大缩短了漕运时间，使江南的粮食不断运进长安，最多的时候，一年漕运粮食达一百一十万石。
保证了长安的粮食需求，稳定了粮价。当运粮首批船到达长安时，京城轰动。代宗十分高兴，派遣了军队的鼓乐队到东渭桥吹号击鼓迎接，还派使者骑马飞驰代表皇帝慰问刘晏说：“你啊，真是我的萧何！”萧何在汉楚战争中以充足的后方供应保证了刘邦的胜利，从而建立奇勋。代宗将刘晏比作萧何，可见他对漕运的重视了。
随着漕运的开通，刘晏的声望越来越高，这引起了宰相常衮（gun）的嫉妒。常衮是继元载之后当宰相的，他对代宗说刘晏是有德望的老臣，应该任命他为左仆射。实际是想夺刘晏的权。左、右仆射是尚书省的长官，但玄宗以来，左、右仆射不像唐初那样是宰相，而只是个尊位，并无实权。代宗认为国家财政刚走上轨道，正需要刘晏这样的人发挥作用。于是在任命刘晏为左仆射的同时，仍旧兼领度支诸使，没有剥夺他手中的实权，而是继续发挥他的理财才能。大历十四年（779）五月，唐代宗去世，唐德宗即位。有人奏请德宗要求撤换转运诸使，刘晏本人也请求辞职。但德宗没有批准，反而加任他为关内、河东的转运、盐铁及各道的青苗使。
