1838年山东堂邑县，也就是今天的冠县柳林镇武家庄的一户贫苦人家降生了家中的第七个孩子，父母并没有因为新生命的降生而有丝毫喜悦，因为对于本就快揭不开锅的家人来说，这无异于雪上加霜，多一口人就多一张嘴吃饭。心烦意乱的父母甚至连名字都懒得给他起，仅按家中的排行称之为武七。
屋漏偏逢连阴雨，船破还遇打头风。在武七大概七、八岁那年，父亲因病去世，四个姐姐也相继做了人家的童养媳。小小的武七，只得白天出去行讨，晚上编些麻绳换几个钱，买几个馒头填饱自己和母亲的肚子。十六、七岁时，母亲安排武七去一位远方姨父家做长工，负责看果园和喂猪。后来又给当地一位地主家打工，却屡屡受到欺辱，白白干了三年。雇主欺负武七不识字，做假账谎称工钱已结，武七极力争辩却反而招致一顿毒打。气得武七病倒三日。在三天不语不食的思考中，他意识到自己被人欺辱是因为不识字，没读过书。于是他下定决心靠乞讨兴学，帮助穷苦人家的孩子接受教育，通过知识来改变自身的命运。
从20多岁开始，到此后的30多年间，武训行乞的足迹遍布，山东、河南、河北、江苏等省。每每讨得一些衣物他总是想方设法变换成现钱。为了能够吸引过往路人，他还时常表演锥刺身、刀破头等节目。还给自己剃了在现在看来相当朋克的发型，把左边的头发剃光，留右边的一半头发，等左边的头发长出来了，又把右边的头发剃了。他自己还编了一首歌谣：左边剃，右边留，修个义学不烦愁;右边留，左边剃，修个义学不费力。把妇女们扔掉的布絮线头捡起来，搓成绳子卖。在那个年代，底层老百姓的谋生活计，武七几乎全做过。后来帮助过武七兴办义学的当地乡绅杨树坊曾如此描述：以佣工之钱所入无多，凡计日价工，凡挑担、拉车、推磨、拉砘，即极艰苦之事，苟可以获利者，无一不为。
慢慢地，武七终于积攒下一些钱财。因不识字恐有被人骗，他将所有的存款都寻找可信任的乡绅来代理置办田产、存款放息。杨树坊就是武七跪求了两天才答应帮他的。当然在这个过程中他也不是没有被人骗过。1875年，山东省一些地区大旱，武七曾拿出40担红高粱，请乡绅郜若纯替自己放赈，郜氏在放赈中行事公正，获得了武七的信任，于是又拿出一笔钱让郜氏替自己存款生息，结果却被郜氏中饱私囊。
武七49岁那年，总共已经购置了田产230多亩。这在当时，已然是很相当可观的一笔财富。但武训仍然坚持乞讨的生活，乡绅杨树坊劝他说不孝有三，无后为大，应该娶妻生子，被他拒绝了，自谓：街死街埋，路死路埋。
1888年，武七在自己的家乡柳林镇东门外建起了第一所义学，取名为崇贤义塾。武训终于实现了自己的人生目标。据周拔夫《武训先生年谱》记载，义塾共建瓦屋20间，大门二门各座，四周的垣墙也都修齐，总共用钱4378串，这建筑费除先生自己积存的2800串外，下欠之数，全由当地的绅耆捐助弥补。
学校建成之后，武七亲自到跪请当地有学问的进士、举人到学校任教，并跪请贫寒人家送子女到义塾上学，学费全免，所需费用全部由武七置办的田产获利所得承担。开学那天，宴请老师，他请了几位乡绅作陪，自己则侍立左右，说自己是乞丐，不识字，不敢入席，等到大家都散席了，才吃些残羹剩饭匆匆离去。
武七虽然不识字，不可能像雷锋叔叔一样写日记，但他的事迹依旧上达天听。当时的山东巡抚张曜得知武七的义举之后，特意召见了武七，并为其取名为武训。同时奏请光绪帝，授以义学正名号，赏穿黄马褂。从此武训声名大振。
1890年，第二所义学在馆陶县杨二庄成立。1896年，第三所义学在临清县御史巷办起。同年4月，武训在临清去世。据《清史稿》记载，武训死时闻诸生诵读声，犹张目而笑。出殡当天，各乡县自发参加葬礼者达数万人，义塾师生无不纷纷落泪，失声痛哭。
民国时期的教育家陶行知、黄炎培等人都深受武训影响，甚至作为军阀的段绳武将军，在武训祠参观了武训的事迹之后，搞起了乡村建设，把武训当成了自己的精神导师。1934年，在武训诞辰97周年的纪念活动中，蒋介石亲笔题写《武训先生传赞》：以行乞之力，而创成德达才之业。以不学之身，而遗淑人寿世之泽……