建安二十五年（220年），曹操去世，曹丕继任魏王，蒋济任相国长史。同年曹丕称帝，蒋济出任东中郎将。蒋济请求留于朝中，上表《万机论》，曹丕称善，改任蒋济为散骑常侍。

当时征南将军夏侯尚作为皇室近亲，深得魏文帝曹丕信任，曹丕曾下诏曰：“卿腹心重将，特当任使。恩施足死，慧爱可怀。作威作福，杀人活人。”夏侯尚得到诏命有生杀予夺之权，十分得意，就把诏书给蒋济看。后来蒋济入宫觐见，曹丕问：“卿所见天下的风俗教化如何？”蒋济答：“没有什么好的风俗，只是听到亡国之语罢了。”曹丕听了很生气，问蒋济原因。蒋济说：“‘作威作福’是《尚书》中明确告诫身为臣子不应该做的，‘天子无戏言’，古时的天子下诏都十分谨慎，希望陛下明察！”于是曹丕怒意全消，急忙遣人到夏侯尚那里取回之前的诏书。

黄初三年（222年），曹丕兵分三路大举攻吴，蒋济与大将军曹仁率步骑数万负责向东线濡须口发起进攻，蒋济受命领兵向东攻取羡溪用以分散吴军，驻守濡须口的吴将朱桓中计，于是分兵驰援羡溪。曹仁随即率大军直扑濡须口。朱桓以城中仅余的五千人坚守不战。当时曹仁派其子曹泰督军攻城，另一面打算攻取朱桓的兵士妻儿所在的江中的沙州岛，蒋济知道后表示反对，认为吴军占据西岸，将战船列于上游，如果魏军进攻位于下游的沙州岛，无异于自取败亡危险。但曹仁不听，仍然命令部下进攻沙州岛，最终果然被击败，魏军临阵被溺及被斩者多达千余人。及后因有疫病而撤军。曹仁战后旋即逝世，蒋济授命为东中郎将，代领曹仁的军队。后来又被征召回朝，任为尚书。

黄初六年（225年）冬季，曹丕亲自领水陆军队到广陵，临江阅兵，向东吴炫耀武力。身为扬州人的蒋济认为水道会有阻塞，不利行军，更作《三州论》劝谏。但曹丕不听，最终战船数千都因河道结冰而停滞不能前进。有人建议将军队留在当地屯田驻守，蒋济又以当地东近大湖、北近淮河，当雨季水涨时容易被东吴军队掠夺屯田物资而反对。曹丕听从了蒋济的建议，因而撤离。这时，湖水有点枯竭，曹丕把所有的船都托付给了蒋济。战船本来排列在数百里中，蒋济让人凿了四五条河道，把船聚在了一起，预先做好土墩截断湖水，让船前后相接，湖水冲刷，将船只导入淮河中。

黄初七年（226年），曹丕驾崩，魏明帝曹叡继位，蒋济被赐爵关内侯。

太和二年（228年），东吴鄱阳太守周鲂派人送亲笔信给曹休，谎称受到吴王孙权责难，打算弃吴降魏，大司马、扬州牧曹休被其所诱，率兵进攻皖城。蒋济认为曹休这次深入东吴，与东吴精兵对抗，而且驻守上游的吴将朱然会从后袭击，建议不要出兵；但曹休还是继续前进。及后吴军在安陆一带频繁出没，蒋济见吴军虽然示形于西，实际上却有东进围歼曹休之势，又建议快派援兵援救曹休。曹叡遂令豫州刺史贾逵率所部东进与曹休合军一处。