神爵三年（公元前59年），丙吉出任丞相。在任上，他祟尚宽大，性喜辞让，有人获罪或失职，只要不是大的过失，他只是让人休假了事，从不严办，有人责怪他纵容失察，他却回答说：“查办属官，不该由我出面。若是三公只在此纠缠不休，亲历亲为，我认为是羞耻的事。何况容人乃大，一旦事事计较，动辄严办，也就有违大义了。”
丙吉冒死保皇嗣，宣帝念恩封侯拜相。
丙吉性情温和，从不显智耀能，不知情者以为他软弱好欺，并无真才实学，他也从不放在心上，也不会因此改变心意。
一次，丙吉在巡视途中见有人群殴，许多人死伤在地，丙吉问也不问，只顾前行。看见有牛伸舌粗喘，他竟上前仔细察看，很是关心。他的属官大惑不解，以为他不识大体，丙吉解释说：“智慧不能乱用乱施，否则就无所谓智慧了。惩治狂徒，确保境内平安，那是地方长官之事，我又何必插手亲自管理？现在正是初春，牛口喘粗气，当为气候失调，如此百姓生计必定会受到伤害，这是关系天下安危的事，我怎能漠视不理？看似小事，其实是大事，身为宰相，只有抓住要领，才能不失其职。”