于是他从二十岁开始乞讨，行乞十年，三十岁在馆陶、堂邑、临清3县置地300余亩，他的行乞方式，刚开始时唱着乞丐的段子，后来学艺不精只能学习驴马牛等牲畜的叫声引来人们嘲笑。
更奇特的是他在行乞的时候也会把自己行乞兴学的梦想告诉所有人“拾线头，缠线蛋，一心修个义学院；缠线蛋，接线头，修个义学不犯愁。”
一路以来无数人嘲笑他一个乞丐还想办学堂，是痴心妄想，但是武七默默的坚持了下来。
十年之后武七在家乡买了田地准备办学堂，剩下的钱以放贷的形式放给商人赚钱利息。
又过了十九年，武七四十九岁，这时他已经有了百亩良田，四千余吊钱，甚至比乡绅还要有钱，但是他依旧沿街行乞从未间断也从未享乐，一直就是为了攒钱兴办学堂，帮他筹划学堂的是同乡的一个举人。
武七的举动令同乡的杨举人十分赞赏，但是看着他年纪大却没有孩子变劝他不孝有三无后为大，先娶妻生子，但是武七确说“不娶妻，不生子，修个义学才无私。”，胸怀让杨举人五体投地。
武七五十岁的时候，终于建立了第一所学堂，花光了4000吊积蓄，聘请当地的举人进士教书，并且亲自上门跪求那些贫苦人家孩子去学堂上学。
他用了三十年跪着乞讨为贫苦人家孩子办学堂，还要跪着求那些贫苦人家的孩子来上学，这份对知识的执着和大情怀，让人满心敬佩。
每逢开学第一天时，武七都要先拜老师，次拜学生，这种仪式持续多年。每次置宴招待老师，他都请当地名绅相陪，而自己则站立门外，专候磕头进菜，待宴罢吃些残渣剩羹便匆匆而去。
武七对于教育和知识似乎带着一种痴迷和虔诚的姿态，他明明算是校长级别的人物，大善人，但是面对学生和老师，他都显得卑微至极。
对勤于教课的老师，他叩跪感谢；对一时懒惰的老师，他跪求警觉。
有一次老师睡午觉睡过了头，学生在学堂内打闹，武七径直来到老师的房前，跪下高声唱道：“先生睡觉，学生胡闹，我来跪求，一了百了”。老师十分惭愧，以后再也不敢疏懒。
对于贪玩不认真学习的学生，武七会跪下声泪俱下的劝说“读书不用功，回家无脸见父兄”。
都说男儿膝下有黄金，但是这个五十多岁的汉子乞讨时可能都不曾跪拜，但是却对这些学生老师跪拜，这种对于知识的狂热让所有人动容，老师不敢懒惰用心教书，学生不满懈怠，用心读书。
武七就是用这样一种卑微虔诚，甚至祈求的方式让学堂维持下去，没人懂他到底是为了什么，是为了钱，还是为了名？
又过了两年，武七跟当地寺院合作创办了第二间学堂，武七还是用他乞讨的钱来办学堂。
武七一心一意兴办义学，为免妻室之累，他一生不娶妻、不置家，其兄长亲友多次求取资助都被他拒绝，他唱道：“不顾亲，不顾故，义学我修好几处。”
后来SD巡抚听说了武七的大义行为，大为震惊，亲自去拜访，筹款两百两募捐，并且免除了学生老师的徭役和赋税，还给武七赐名武训。
取‘垂训于世’的寓意。
同时光绪帝亲自颁给武训‘乐善好施’的匾额。
武训的大义善行震惊朝野，清廷授予‘义学正’名号赏赐黄马褂。
武训死于自己的私塾内，《清史稿》的记载，“（武训）病革，闻诸生诵读声，犹张目而笑”。
享年五十九岁。
出殡当日，堂邑、馆陶、临清三县官绅全体执绋送殡，遵照武训遗嘱归葬于堂邑县柳林镇崇贤义塾的东侧。各县乡民自动参加葬礼达万人以上，沿途来观者人山人海，一时师生哭声震天，乡民纷纷落泪。
这是一个真正伟大的人格才会赢得如此大的声誉。
人们无法理解武训这种跪着祈求办理学堂的心思，但是他们会被武训这种无私奉献的精神感动。
武训的精神后人敬仰，清廷为其修碑立传，以表彰他为教育事业做出的巨大贡献。