道士走后，于谦回家就把道士的话与家人讲了，并把道士送的玉坠，拿给家人看，只见这淡红色的玉坠如杏仁大小，其形状也很像杏仁。只见其质地细腻、温润、光洁，在阳关下呈现出一道耀眼的光晕，看上去非常漂亮。
孩子说完后，家人对此特别重视。他们四下里打听寻访，最后在宁波清道观的一位道长那里得知送玉坠给于谦的道士是一位修行很深的云游道长，其道号为：浮云道长。
从此以后于家对这个男孩爱护有加，不仅如此，于谦每一次出门回来其祖父都要检查他挂在怀里的玉坠，唯恐不见。
随着于谦渐渐长大，家里为他请了私塾老师，于谦不但聪明，而且精力过剩，他在学好四书五经等老师安排的必修书外，就把剩余精力用在了读课外书上。当时他最爱读的就是有关古代打仗排兵布阵一类书，其中《孙子兵法》就是他最爱读的一本书，对此书他几乎可以倒背如流。
当然这些课外书籍是不能让老师和祖父看到的，他们是不允许于谦看这些所谓的“杂”书的，因为当时只有学好四书五经等老师指定的书籍，你才能考上举人、进士，顺利走上仕途，才能不辜负祖父及家人的期望，光宗耀祖。
在于谦的书房里的正面墙上，很早就挂着一幅自己临摹文天祥的画像，有一次老师故意问他为何如此？当时于谦立即正色回道：“将来我要像他那样做人。”
不仅如此，他在画像下面还写下了自己对文天祥的赞誉：“徇国忘身，舍生取义宁正而毙，不苟而全。”其实这两句话倒更像是对于谦一生的写照。
于谦当然没有辜负家人的希望，在他二十三岁那年已经乡试中举，下一步就是进京赶考。在他即将离开风景如画的江南故乡，奔赴风云聚会，气象万千的京城时，于谦颇有感慨，在前往赶考的路上，他写下了自己的豪情壮志：
把剑舞中庭，浩歌振林峦
丈夫意如此，不学腐乳酸。
于谦在这次进京会试中顺利考中进士，并被任命为御史，从此走上了如踏青云的仕途。在于谦的努力工作和朝中重臣“三杨”的栽培下，年仅三十二岁那年就已经官居三品。对此有人在“三杨”面前表示不满。对此杨士奇笑道：“此人是难与奇才，将来必成栋梁。我只是为国家升迁他而已。”
后来于谦离开京城，前往山西、陕西、河南一带巡抚，因为他非常敬业，又十分清廉，所以他在老百姓心目中威望及高。
正统年间，大宦官王振逐渐独揽朝政大权，王振不仅权利欲极强，而且极贪，当时在朝廷里已形成了一个潜规则，几乎所有回京官员都要给他送礼上供，如不上供，他就会暗中找你的毛病。
一次于谦回京汇报工作时，身边的人提醒于谦带点东西打点一下王振。对此于谦笑着作了一首诗为答：
绢帕蘑菇及线香，本资民用反为殃，
清风两袖朝天去，免得闾阎话短长。
当时他根本不会想到这很随意的心情表达竟然成了千古绝唱，成语两袖清风即来于此。因为政绩突出，正统十三年（1448）于谦被召进京城，成为兵部尚书邝埜的手下，提升为兵部侍郎。