光绪十四年(1888年)，随父母自成都返回原籍绍兴。光绪二十四年(1898年)，应绍兴县试，名列榜首。同时应考者有周豫才(鲁迅)、周遐寿(作人)。翌年，娶汤寿潜(1856—1917年，历任浙江都督、浙江铁路公司理事长等职)长女孝愍为妻。婚后，与汤寿潜受业弟子谢无量相偕赴沪，在同文会堂习英文、法文。同时和马君武、李叔同、邵力子等相交往。光绪二十七年(1901年)，与谢无量、马君武在沪合办《二十世纪翻译世界》杂志。翌年，夫人病故，作《哀亡妻汤孝愍辞》，以夫妻情笃，致终未再娶，无子女。

光绪二十九年 (1903年)六月，赴美国圣路易斯，任留学生监督公署中文文牍，兼万国博览会中国馆秘书。在此期间大量阅读西方文、史、哲著作，译有《法国革命史》等，并曾到英、德游历。光绪二十年(1904年)五月，至日本留学，习日文、德文，与章太炎、鲁迅有所过从。十一月回国。

光绪三十一年(1905年)，在镇江焦山海西庵，与谢无量一起读书，研究西方文化，继之，发宏愿整理华夏文化。在致舅氏何稚逸书中说：“窃有志于二宗：欲为儒宗著秦汉以来学术之流派，为文宗纪羲画以降文艺之盛衰。将以汇纳众流，昭苏群惑。悬艺海之北辰，示儒术之总龟，振斯道于陵夷，继危言于将绝。”光绪三十二年(1906年)，寄居杭州西湖广化寺，精研国学，佛阁青灯，遍读“文澜阁”所藏《四库全书》2万余册。翌年，移居宝极观巷，仍杜门苦读。夏，秋瑾就义，作《悲秋四十韵》、《鉴湖女侠行》寄意。后又居杭州永福寺，涉猎元曲，并在同盟会《民报》发表自撰曲多首。宣统二年(1910年)，作《诸子会归总目例序》，举诸子140家，书627卷，详加考辨。

1912年，民国肇始，蔡元培任教育总长，聘为秘书长。不久即辞职。本年赴南洋考察，对当地华侨学堂不废经学极为赞同。1916的6月，苏曼殊至杭州拜访。12月，蔡元培任北京大学校长，聘为文科学长，以“古闻来学，未闻往教”婉辞。1917年始，通读“三藏十二部”佛家典籍，参谒名山古刹，广交高僧大德，又撰写大量佛学专著，提出“儒佛互摄说”，认为佛学与儒家心性义理之学有共同处，所谓“尧舜孔佛是一人”，在佛学界望重一时，被称为“南马北汤(用彤)”。1918年，李叔同出家，自述系受到马一浮影响。1920年夏，撰《老子道德经注》。1923年后，渐弃佛、道，而归于儒家。在书札中说：“古圣为人，唯有指归自己一路是真血脉。” 1926年在书札中又说：“禅是闲名，大可束阁。性是实德，必须亲证。”于是，“归而求之六经，取法宋贤”。1927年在书札中更自誓：“欲以有生之年，专研六艺。拾先圣之坠绪，答师友之深期。虽劫火洞然，不敢自阻矣。” 1928年，为丰子恺《护生画集》撰序。1929年，与熊十力订交。1932年，为熊十力《新唯识论》作序，以是书为：“深于知化，长于语变者”，而“世之谈者，未能或之先也。”1933年熊十力、梁漱溟到杭，三人相聚，门人称为“三圣”。

1937年11月，避寇南迁，经桐庐、开化，至江西泰和。在桐庐曾手书一联：“养拙干戈际，用心霜雪间。” 1938年2月，致丰子恺信：“务望尽力发挥非战文学，为世界人道留一线生机。目睹战祸之烈，身经乱离之苦，发为文字，必益加亲切，易感动人。”6月，应浙江大学校长竺可桢之约，以“大师”名义，在辗转迁此的浙大开设“特约讲座”，共讲11次。讲学以张载“为天地立心，为生民立命，为往圣继绝学，为万世开太平”“四句教”为宗旨，教育青年要“养成刚大之资，以济蹇难。”继而阐释“六艺论”道：吾人“本然之善，名为天命之性，纯乎理者也。此理自然流出诸德，故亦名为天德，见诸行事，则为王道。六艺者，即以天德王道之所表显。”故六艺“统摄于一心”。“六艺不唯统摄中上一切之学术，亦可统摄现在西来一切学术。”“弘六艺之道，并不是狭义的保存国粹，单独的发挥自己民族精神，而只是要使此种文化普遍的及于全人类，革新全人类习气上之流失，而复其本然之善，全其性德之真。”并断言：“天地一日不毁，人心一日不灭，则六艺之道炳然常存。世界人类一切文化最后之归宿，必归于六艺，而有资格为此文化之领导者则中国也。”“六艺论”是中国文化哲学的奠基作，贺麟认为“能代表中国正统思想的文化观。”(《当代中国哲学》，1947)讲稿辑为《泰和会语》。11月，在广西宜山，继续为浙大讲学9次，讲“义理名相论”，“诲人反躬力行，找正本源”，建构了自己的哲学体系。讲稿辑为《宜山会语》。

在一些门人和陈立夫、陈布雷推动下，国民政府以行政院院长孔祥熙名义电请创办书院，遂提出《书院之名称旨趣及简要办法》：“书院为纯粹研究学术团体，不涉任何政治意味。凡在院师生，不参加任何运动。”以“复性”为书院名，盖“教之为道，在复其性而已矣。”而“讲明性道当依六艺为教，”“分通治、别治二门。通治，明群经大义;别治，可专立一经。”分设四学：玄学、义学、禅学、理学。当局同意后，遂于1939年1月抵重庆。当日蒋介石即设宴款待。蒋称：“中正不学，忝主党国，任重事烦，缺失必多，幸识大师，愿垂教言。”对口：“妄谓国事万机，要在宽简。宽则民附，简则易行。法峻则民散，政烦则民惑。”“唯诚可以感人，唯虚可以接物，此是治国的根本法。”蒋即指令教育部筹办书院，拨专款充建院基金，每年并予补助。3月，书院筹委会成立，后改为董事会，以屈映光为董事长。马一浮被聘为主讲，以宾礼相待。主讲下设“特设讲座”，由熊十力担任。又设“讲友”，相当于名誉教授，聘赵熙、梁漱溟、谢无量、叶左文等。学院设在四川乐山乌龙寺，又特建“濠上草堂”，供主讲居住。9月15日开讲，宣示学规：“主敬为涵养之要，穷理为致知之要，博文为立事之要，笃行为进德之要。”“以复性为纲领，以返求为功夫。”“期望从学之士人人能为王者师，方尽得儒者本分。”至1941年5月25日，共讲学四个学期，一年零八个月。讲稿辑为《复性书院讲录》六卷。自1942年1月起，书院改以刻书为职志。发布《蠲戏老人鬻字刻书启》， 鬻字所得两万馀元，全部用于刻书，先后刻成“群经统类”、“儒林典要”28种、38册。

1943年起，编刻历年自作诗词，并倾全力临池、写诗。自1913年至殁传世诗词3100馀首，“老而播越，亲见乱离，无遗身之智，有同民之患，于是触缘遇境，稍稍有作。” (《蠲戏斋诗自序》)其作多“以理入诗”，海内方家评为“气象阔人”、“淡雅”、“时有宋味”，徐复观则断为“当代第一流乃至是第一人的手笔。”(《蠲戏斋诗全集·序》)书法诸体皆备，尤以隶书、行草造诣极深，享有盛名。

1946年5月，自重庆经上海飞杭州，以西湖葛荫山庄为复性书院临时院址，继续鬻字刻书。1948年秋，书院结束，改为“智林图书馆”。

1950年4月，应门人蒋苏庵之请，移居西湖花港蒋庄。智林图书馆编纂处亦迁至蒋庄。每逢生辰、重九，辄与戚友、门生雅集，得诗甚多。

1952年4月，上海市市长陈毅，在浙江省文教厅厅长刘丹陪同下，长袍布履专程至蒋庄拜访，自此二人订交，并应聘为上海市文物保管委员会委员。

1953年2月，作贺熊十力70寿诗：“孤山萧寺忆谈玄，云卧林栖各暮年。悬解(即玄解，指《新唯识论》)终期千岁后，生朝长占一春先。天机自发高文在，权教还依世谛传。刹海花光应似旧，可能重泛圣湖船。” 9月，毛泽东批判梁漱溟，周恩来委托沈尹默赴杭，邀其晋京劝梁检讨，未允所请，称：“我深知梁先生的为人，强毅不屈。如他认为理之所在，虽劝无效。”11月，赴沪回访陈毅，陈设盛宴款待。有赠陈毅诗：“不恨过从简，恒邀礼数宽。林栖便鸟养，舆诵验民欢。皂帽容高卧，缁衣比授餐。能成天下务，岂独一枝安。”1954年1月，出席虎跑弘一法师墓塔落成典礼，本年，膺选为全国政协特邀委员。

1957年4月，周恩来总理陪同苏联国家元首伏罗希洛夫游览西湖，特地请伏到蒋庄拜访，并郑重介绍说：“马先生是我国唯一的理学家。”

1963年，80寿辰之际，周恩来拨款1万元，作为颐养之资。本年冬，将历年所做书法精品357件悉数献给国家，全国政协特为此举办“马一浮书展览会”。后又赠陈毅旧藏宋画1幅，附函称：“今以呈左右，退食之馀或邀鉴赏，藉佐宾谈，亦此画之幸也。”1964年冬，政协全国会议后，毛泽东主席、周恩来总理在怀仁堂设专宴款待，作陪者有陈毅元帅、粟裕大将、全国政协副主席陈叔通等。为答谢毛、周，分别书赠诗联：“使有菽粟如水火，能以天下为一家。”“选贤与能讲信修睦，体国经野辅世长民。”

1966年，“文化大革命”席卷全国，被打成“反动学术权威”，所藏书画被焚毁，最后又被赶出蒋庄，寄居安吉路一斗室。曾愤激呼号：“斯文扫地!斯文扫地!”遂积郁成疾。倚病榻作《拟告别诸亲友》：“乘化吾安适，虚空任所之。形神随聚散，视听总希夷。沤灭全归海，花开正满枝。临涯挥手罢，落日下崦嵫。”

1967年6月2日以胃病逝世于浙江医院。

1980年，浙江各界隆重补开追悼大会，梁漱溟致电挽曰：“千年国粹，一代儒宗。”1987年，逝世20周年时，浙江各界举行纪念活动，杭州师范学院同时成立“马一浮研究所”。1993年3月，浙江大学等28个单位发起召开“马一浮国际学术研讨会”。

著有：《泰和会语》(1940年)、《宜山会语》(1940年)、《复性书院讲录卷一》(1939年)、《复性书院讲录卷二》(1940年)、《复性书院讲录卷三》(1940年)、《复性书院讲录卷四》(1940年)、《复性书院讲录卷五》(1941年)、《复性书院讲录卷六》(1942年)、刘锡嘏、王培德辑录《尔雅台答问》(1940年)、张立民、王培德辑录《尔雅台答问续编》(1940年)、《濠上杂著》(1940年)、《蠲戏斋文选》(整理稿)、《蠲戏斋书信选》(整理稿)、《蠲戏斋诗词选》(1943年);全集有：《马一浮集》三卷;选集有：滕复编《默然不说声如雷——马一浮新儒学论著辑要》(1995年)、《中国现代学术经典·马一浮卷》(1996年)等。

法书有：夏宗禹编《马一浮遗墨》(1990年)。

传记有：马镜泉、赵士华著《马一浮评传》(1993年)、陈星著《隐士儒宗·马一浮》(1996年)等。