却说张汤乃杜陵人，自小便生成一种吏才。其父为长安丞，一日出门，使他看守房屋，张汤年幼贪玩，未及留心家事。
等到其父回来，查看家中情况，谁知厨中藏留之肉被鼠窃食。其父大怒，将张汤打了一顿。张汤被打，自念为鼠所害，心中不甘，要想寻鼠报仇。
次日其父出外，张汤闭上房门，掘开鼠穴，果然捕获一鼠，并搜得食剩之肉。张汤大喜，心想平日常见父亲审理案件，处决罪犯，甚是有趣，我今捕得此鼠，正好仿照父亲行事，不但泄愤，又可取乐。于是将鼠缚住当作犯人，自己做起刑官坐堂审案。吊起此鼠取出余肉，喝问道：“此肉是否被汝窃食？”那鼠只是唧唧作声，张汤便当他不肯实供，喝令拿下拷打，自己却用小棍向着鼠身乱敲。那鼠被打跳跃大叫。张汤当作他已招认，遂录出口供拟下判词，援据法律处以死罪。又假作文书将此案申报朝廷，得了批准，案情已定，然后将鼠就堂下磔死，算是行刑了结此案。
张汤正在游戏，恰值其父回来，问他干嘛？张汤告知其事，其父便索取张汤判词看了一遍，心中大加惊异。原来此判词字字精当，如同老狱吏一般，我一向并未教他，他又何从学得，想是天生其才。既然如此，索性造就他将来做个刑官。从此其父便将自己经办案件，所有文书判词，交与张汤书写，使之练习。张汤对于刑狱日加熟悉。其父死后，张汤初为长安狱吏，便受收他人财物。又与长安富商田甲、鱼翁叔等交结，彼此钱财往来。
其时正值景帝末年，王皇后同母弟田胜因事犯罪，系在长安狱中。张汤暗想此人乃皇后之弟，将来太子即位便是国舅，正好趁此时先烧冷灶结下交情。于是倾身照顾田胜，吩咐狱卒好生看待，又设法将所犯案件宽缓下来。果然不久武帝即位，田胜得释出狱，封为周阳侯，心中十分感激张汤，又带领他遍见朝中贵人。恰遇宁成由中尉移为内史，张汤为其属吏，甚被赏识，荐于丞相卫绾，卫绾调他为茂陵尉。及田蚡拜相，以张汤为丞相史，荐补侍御史。陈皇后巫蛊事起，武帝发交张汤审办，张汤穷究党羽，连坐死者三百余人。武帝以汤为能，擢为太中大夫，命与赵禹共定律令。二人意见相同，彼此一见如故。
赵禹年长，张汤以兄礼事之。所定法令，专务苛酷。又作见知故纵之法，凡官吏见知他人犯法，不即出头告发，是为故纵，与犯人同罪。
李蔡死后，张汤满望自己得升相位，偏武帝不使为相，另命太子少傅庄青翟继李蔡后任。张汤因为庄青翟直受不辞，未尝相让，遂与庄青翟有嫌，意欲设法构陷他，只因一时无可下手，权且耐心等着。
却说楚地一带，奸商私铸铜钱，武帝特召故内史汲黯入朝，拜为淮阳太守，使治楚民，汲黯固辞不获，乃入见武帝道：“臣已衰朽，自以为将填沟壑，不能再见陛下，偏蒙陛下垂恩，重赐录用。臣实多病，不堪出任郡治，情愿乞为中郎，出入禁闼补阙拾遗，或得效忠万一。”武帝笑道：“我不久便当召君。现因淮阳吏民两不相安，所以借重君名前去卧治。”汲黯只好应命，谢别出朝。当有一班故友前来饯行，汲黯不过虚与周旋。看见大行李息到来，不觉触着一桩心事，惟因大众在座不便与言。待李息去后，特往他家里回拜，屏人与语道：“黯被徙外郡，不得预议朝政，但思御史大夫张汤，内怀奸诈欺君罔上，外挟贼吏结党为非，公位列九卿，若不早为揭发，一旦汤败，恐公不免同罪！”李息本是个模棱人物，怎敢出头劾汤？不过表面上乐得承认，说了一声领教，便算敷衍过去。汲黯乃告辞前往就任。李息始终未敢发言，那张汤却揽权怙势，大有顺我者便生，逆我者死的气势。
御史中丞李文，与张汤向有嫌隙，李文现官御史中丞，常在殿中兰台，职掌文书，举劾不法。只因心怨张汤，遇有公事可以伤及张汤者，李文便极力挑剔，全不替张汤留些余地。张汤因此恨入骨髓，正想算计害他，张汤爱吏鲁谒居不待张汤嘱咐，竟使人诣阙上书，诬告李文许多奸状。武帝将原书发给张汤查问，张汤便将李文提到审问，严刑逼供，李文受不起刑法，只得按款招认。张汤录了供词，复奏武帝，说是所告皆实，李文应处死刑。武帝批准。不过几日，李文便结果了性命。张汤正在得意，不料武帝忽然记起此案，心想李文所犯罪状既是确实，那告发之人不妨自出姓名，又何必匿名上书？此中情节可疑。便召张汤问道：“李文为变，究系何人所告？原书中不载姓名，你可曾查出否？”张汤被问暗吃一惊，他虽然知道告发李文的乃是府吏鲁谒居，但此时不便实告，只得佯作惊疑，半晌才答道：“这当是李文故人与文有怨，所以告发隐情。”武帝听了默然不语。张汤趋出还至府中，正想召入谒居与他密谈，左右报告谒居有病未能进见。张汤慌忙亲去探问，见谒居躺在榻上，说是两足奇痛。张汤启衾看明，果然两足红肿。张汤见他病势沉重，无人服事，甚不过意，便亲自动手替他抚摩双足，鲁谒居再三推辞，张汤执定不肯，鲁谒居只得由他。读者试想张汤与鲁谒居并非亲戚故旧，一个三公居然降尊服事小吏之病，真是奇谈。无奈鲁谒居消受不起，过了旬月竟尔毕命。谒居无子，只有一弟同居长安，家中也没有甚么积蓄，一切丧葬概由张汤出资料理，不劳细叙。忽从赵国奏上一书，内称张汤身为大臣，竟替府吏鲁谒居亲为摩足，若非大奸，何至如此狎昵，应请严究云云。这封书奏乃是赵王刘彭祖出名。刘彭祖素性阴险，令人不测。他本武帝之兄，自从景帝时受封，在国日久。从前主父偃也是由他闻风弹劾以致伏诛。
原来赵国人民多以冶铸铁器为业，赵王刘彭祖借此抽捐得了一大宗收入。自从张汤建议将铁器归官专卖，各地设立铁官，禁止人民私铸。赵王失了此项利益，心中不甘，便借故与铁官争讼。事归张汤审办，张汤袒护铁官，判断赵王无理。赵王心中愤怒。张汤又使鲁谒居查办赵王，赵王因此也怨鲁谒居，于是密遣心腹之人，暗查张汤过恶。来人奉命到了长安，终日侦察张汤举动，可巧鲁谒居生病，张汤为他摩足，事为侦探所闻，还报刘彭祖。刘彭祖偏乘隙入奏，严词纠弹。武帝因事涉张汤，不便令汤与闻，乃将来书发交廷尉。廷尉将谒居弟带至廷中。谒居弟不肯实供，一时案情未决，无奈当时罪人极多，犯人皆满，遂将谒居之弟拘禁导官。一日，张汤因办理别案人犯，到了导官望见谒居之弟。谒居弟连忙大声呼救。张汤心生怜悯，原想替他设法出脱，但因自己现在被赵王告发犯了嫌疑，当着众人之前不便露出形迹，只好佯为不识昂头自去。谒居之弟因兄连累无辜被系，正在冤愤填胸，满望张汤为之出力解免。如今见了张汤，方欲上前诉苦，张汤却扬长而去，如同陌路一般。他是粗人，何曾理会张汤深意，便以为张汤抹脸无情，很是生恨，当即使人上书，谓张汤曾与鲁谒居同谋构陷李文。
摩足事小，人家愿意帮他摩怎么了？构陷李文事大！武帝正因李文一案怀疑未释，一见此书，更命御史中丞减宣查究。
减宣自从被卫青举荐得为厩丞，办事颇有成绩。武帝擢为御史中丞，命其帮同张汤讯办主父偃及淮南反案，被他诬陷致死者不计其数。当日一班酷吏都称赞他敢决疑案。此次奉命查办张汤，减宣暗自欢喜。原来减宣也与张汤结下冤仇，如今落在他手中，岂肯轻易放过？好教张汤死心伏罪。
减宣将张汤、鲁谒居构陷李文的事调查确凿，尚未复奏。谁知一波未平一波复起。此时丞相李蔡下狱自杀，武帝拜庄青翟为丞相。一日，忽报有人偷掘孝文帝园中埋葬之钱，庄青翟便约张汤同向武帝谢罪，张汤许诺。及到武帝御前，庄青翟上前奏明此事叩头谢罪。张汤却站立不动。武帝见奏，即命御史查究此案。张汤便想趁此陷害庄青翟夺他相位。看官试想张汤自己正被人查办，不知格外谨慎；反要设法害人，可谓胆大已极。
张汤身为御史大夫，诸御史皆归统属，张汤说丞相明知偷盗之人却不行举发，应坐见知故纵之罪。张汤之意，以为庄青翟坐罪免相，自己当然得代其位。谁知有人急来报与庄青翟。庄青翟听后甚是忧惧，便密与长史商议。长史朱买臣、守长史王朝、边通三人闻言大怒，齐向庄青翟献计。
原来朱买臣与严助同为侍中，尊贵用事。其时张汤方为小吏，趋走买臣之前听其使令。后买臣因事失官，复起为丞相长史。张汤已贵至御史大夫，武帝甚加宠幸。每遇丞相出缺或告假，常令张汤代行丞相之事。朱买臣见张汤竟为自己长官，心中虽然不服，也只得低头忍气。偏是张汤每见朱买臣到来，踞坐床上，不肯略加礼貌。买臣深恨张汤。王朝与边通二人从前官位也在张汤之上，王朝曾为右内史，边通曾为济南相，如今失职来做丞相长史，张汤对他们也与朱买臣一般看待。
于是三人计议一番，便一起对庄青翟说道：“张汤答应与君一同谢罪，后来竟敢背约。今又将君劾奏，其意欲代君之位。吾等久知张汤秘密过恶，事已至此，不如先发制人。”庄青翟点首应允。
朱买臣等遂将田信等商人捕拿到案，逼令证明张汤罪状，说他营私舞弊，案关重大。恰好这时减宣又将查办谒居之事复奏上来，武帝不觉大怒，连遣使臣责问张汤，张汤极口抵赖，无一承认。武帝更令廷尉赵禹向汤诘问，张汤仍然不服。减宣冷笑道：“君也不知分量！试想君决狱以来杀人几何？灭族几何？今君被人讦发，事皆有据。君不如就此自决，还可保全家族呢！”张汤自知不免，于是取剑在手拚命一挥，喉管立断当然毙命。
张汤已死，老母及兄弟子侄等环集悲号，且欲将张汤厚葬。张汤实无余财，家产不过五百金，俱系所得禄赐，余无他物。汤母嘱咐家人道：“张汤身为大臣，坐被恶言终致自杀，还用甚么厚葬呢？”家人乃草草棺殓，止用牛车一乘载棺出葬，棺外无椁就土埋讫。家族保全还算幸事。武帝听说汤无余资，汤母禁令厚葬，益加叹息道：“非此母不生此子！”后人有诗叹道：
天道由来是好生，
杀人毕竟少公平，
试看酷吏多遭戮，
才识苍穹有定衡。