公元146年（本初元年），汉桓帝刘志即位，杨秉因明晓《尚书》被征召入宫为桓帝讲学，被任命为太中大夫、左中郎将，后升任侍中、尚书。
公元151年（元嘉元年）四月初三，桓帝秘密出行，前往河南尹梁胤的府邸。当天，突刮大风，拔起树木，白昼一片昏暗。杨秉上书说认为君王不应私自外出游玩，如果发生变故，出现任章一类的谋反事件，后果就可能非常严重，桓帝不能采纳。
杨秉称病请求辞职，被调任右扶风。太尉黄琼对于杨秉离开朝廷感到惋惜，上疏认为杨秉于宫室劝学讲读，不应调到地方任职，于是被留在朝廷被任命为光禄大夫。当时，大将军梁冀掌权，杨秉称病。 公元159年（延熹二年），在杨秉称病六年后，梁冀被桓帝联合宦官诛杀，杨秉于是被任命为太仆，又调任太常。同年，白马县令李云因直言劝谏桓帝而获罪，杨秉为李云争辩但没有成功，因而被免官归田。同年十二月，又被征召为河南尹。
之前，宦官单超哥哥的儿子单匡任济阴郡太守，仗势贪污放纵。兖州刺史第五种派从事卫羽调查审问，查出赃款五六千万钱。第五种立即上奏告发单匡，并弹劾单超。单匡困迫，于是贿赂刺客任方行刺卫羽。卫羽发觉奸谋，将任方逮捕囚禁在洛阳狱。单匡害怕杨秉穷追此事的来龙去脉，便密令任方等人越狱逃跑。尚书因而召见杨秉责备质问他，杨秉回答说：“任方等人为非作歹，实由单匡主使，请用囚车把单匡押解到京师，当面考问这件事，他们作奸犯科的行踪影迹定会立刻清楚。”但杨秉竟被判罪，送到左校去罚作苦役 ，后因久旱不雨而被赦免。此时恰好发生日食，太山太守皇甫规等人为杨秉辩冤，称他忠诚正直，不该长期压制不用。后来桓帝下诏用公车征召杨秉与处士韦著，二人均称病不至。有关部门弹劾二人对朝廷大不敬，要求下发公文让二人所属的郡治他们的罪。尚书令周景与尚书边韶讨论后上奏认为应该再征召二人，如果还不到，再讨论如何处罚。朝廷于是再次征召杨秉，他才到朝廷，被任命为太常。 当时郡国的上计吏大多被留在京师被任命为郎官，杨秉上疏认为三署如今有郞七百多人，国家开支巨大、库藏空虚，而游手好闲的人很多，而且行为不端的郡守国相，想用国作为池塘，浇洗自己的罪责秽行。认为应该杜绝不循正道的拜任，以阻塞觊觎权力的苗头。至此到桓帝时代结束，计吏不再留京拜任为郎。
公元164年（延熹七年）十月，桓帝南巡祖陵，特诏命杨秉随从。南阳太守张彪在桓帝即位前与其有旧恩，以桓帝的车马将到为由，借机增收租调，很多装入自己的私囊。杨秉听说此事，便下文书责备荆州刺史，要求他把详情另行上报公府。等到桓帝抵达南阳时，他身边的宦官亲信都营私谋取奸利，桓帝不断下诏，任命了很多人为郎。杨秉又上疏劝谏说：“太微宫五帝座后，积聚着二十五星，名叫郎位。入则在宫中值宿，担任警卫；出则在地方官府任职，牧守百姓。陛下应该割舍不忍拒绝的恩惠，断绝左右谋取奸利的道路。”桓帝这才不再颁布任命为郎的诏书。 当时，中常侍侯览的弟弟侯参任益州刺史，残暴贪婪，赃款累计多达一亿。杨秉对他进行弹劾，朝廷用囚车把侯参押解回京，侯参在途中自杀。京兆尹袁逢从长安的客馆里查获侯参的车辆三百多辆，装载的金银珍宝不计其数 。因此，杨秉又上书弹劾侯览及中常侍具瑗等人，请求将他们免除官职，送回本郡。奏章呈上后，尚书召来杨秉的属吏，责问说：“朝廷设立官职，各有各的职责范围。三公对外管理政务，御史对内监察官吏。而今，三公超越的职责范围，弹劾宫内的宦官，无论是经书典籍，还是汉朝制度，有什么根据？请公开作具体答复。”杨秉派的属吏回答：“《春秋左传》上说：‘为君王排奸去恶，要使出全身的力量。’邓通懈怠轻慢，申屠嘉召邓通进行责问，汉文帝因而为邓通说情。汉朝的传统制度是，三公的职责，没有一件事情不可以过问。”尚书无法反驳。桓帝迫不得已，终于将侯览免职，并削减了具瑗的封邑。
公元165年（延熹八年）五月丙戌日 （6月18日），杨秉逝世，享年七十四岁，桓帝在皇陵附近特赐墓地来陪陵安葬。 蔡邕作有《太尉杨秉碑》。
