王文韶幼年时家境贫寒,曾随父亲在城南的一家酱园做学徒。他自小就聪颖过人,后被选为店主儿子的陪读,很快便展示出在读书方面的才华。父亲王又沂十分欣喜,为了让他出人头地,便将他送到一家私塾去念书。却没想王文韶生性爱玩,小小年纪就迷上了赌博,据说才15岁就欠了一屁股的债,所欠的赌债足足可买40担大米。后来债主上门,父亲把家中的年货都抵了债,还写了欠条,承诺还清。王文韶经过此事大哭了一场,将赌具扔进了汇龙潭,从此发奋读书。
咸丰元年(1851年),王文韶在浙江乡试得中举人第八十四名。翌年恩科,王文韶又得中进士三甲第三十二名,同榜的还有潘祖荫、李鸿藻、景廉等人。就这样,年仅23岁的王文韶便真正入仕,开启了他的青云之路。
王文韶先是被著户部学习。在此期间,因在浙江海运中出力曾被保举以户部主事优先录用,但内阁和户部以为此举“与例不符”。后来,他被授户部主事,迁员外郎、郎中。后被调任湖北安襄郧荆道,外放为官。同治三年(1864年)调汉黄德道,监督江汉关。王文韶外放得到左宗棠及李鸿章的保举,可以说,正是这次外放奠定了王文韶成为晚清重臣的基础。
同治六年(1867年),王文韶擢湖北按察使,并以署理湖北布政使的身份被继续委派至穆图善办理后路粮台。同年11月,调署湖南布政使。同治十年(1871年),署湖南巡抚。在湘期间,他派兵平定新化、衡、永等地土寇,清史稿中记载:“抚湘六年,内治称静谧焉。”此时,王文韶逐渐露出主政一方的峥嵘。后一路调升,直到光绪十五年(1889年),升任云贵总督。
甲午中日战争爆发后,清廷以天津为京畿门户。光绪二十年(1894),召王文韶入觐。翌年(1895年)初,命充帮办北洋事务大臣。光绪二十一年(1895),李鸿章被召入京,作为赴日谈判头等全权大臣,诏王文韶署理直隶总督、北洋大臣。
王文韶在直隶总督、北洋大臣任职期间,曾多次疏陈建议加强北洋海防、整顿水师、兴办天津武备学堂、重建旅顺大连炮台。并在兴修水利、开垦农田、兴办学校等方面也有所建树。奏设北洋大学堂、山海关北洋铁路官学堂(现西南交通大学)、上海南洋大学等,为国家造就了一批人才。