在数十年的行医期间，李时珍发现古代的本草书籍有很多的错误和问题，决心重新编撰一部本草书籍。明嘉靖三十一年（1552年），34岁的李时珍开始编写《本草纲目》。李时珍以《证类本草》为蓝本，参考了800多部书籍。

在李时珍20多岁跟随父亲行医之时，曾遇到一场水灾，水灾过后瘟疫蔓延。一天，李时珍正在诊病，突然一帮人推搡着一个郎中进入诊所。问其原因，原来是这个郎中开的药不仅没有治病，反倒加重了病情，特来找李时珍评理。李时珍仔细观察了药罐，发现是古医书上的错误导致的，《日华本草》的记载把两种草药混为一谈，才使得郎中用药错误。

这样的医疗事故李时珍见多了，他深感仅仅阅读古代的书籍是远远不够的。虽然过往的医书都对本草进行了反复的解释，但有些作者并没有进行深入调查与研究，在不同的书籍之间互相借鉴，其著作自然错漏百出，存在着很多药名混杂的问题，以及药草形状和生长状况描述不清的情况。这就导致沿用此类医书的医者难免会开错药方，或者辨错药草，轻者耽误治病，重者害人性命。李时珍深感“读万卷书”固然很重要，但“行万里路”更是修本草中必不可少的步骤。从明嘉靖四十四年（1565年）起，李时珍多次离家外出考察，足迹遍及湖广、江西、直隶等许多名山大川，走万里路，听万人言。

所谓本草，是古代药物学的代称，它包括花草果木、鸟兽虫鱼、铅锡硫汞等植物、动物和矿物药。从东汉《神农本草经》成书，到李时珍诞生前的1300余年间，历代本草学家都有不少专著问世，但从未有一部能概括这一时期药物学新进展的总结性著作。李时珍决定学习前辈神农尝百草的精神，真真正正地去深入了解本草的性状、习性和生长情形。李时珍在徒弟庞宪、儿子建元的伴随下，远涉深山旷野，遍访名医宿儒，搜求民间验方，为的就是观察和收集药物标本。

他首先在家乡蕲州一带调查，后来又多次出外探访。除湖广外，还去过江西、江苏、安徽等地。均州的太和山，盛产药材的江西庐山，南京的摄山、茅山、牛首山，李时珍都亲自去过。后人为此写了“远穷僻壤之产，险探仙麓之华”的句子，反映他远途跋涉、四方采集的生活。李时珍每到一地，就虚心地向各式各样的人物请教，其中有采药的、种田的、捕鱼的、砍柴的、打猎的。有次在一个驿站，李时珍碰到几个马夫围着一个小锅，在煮着连根带叶的野草。他上前询问，得知这汤能够舒筋活血，叫作“鼓子花”，于是赶紧记录下来：鼓子花有“益气续筋”之效。

在长期的实践中，李时珍已经总结出了尝百草的经验，发现草木味苦的凉、辣的热、甜的补、酸的开胃。经过长期的经验积累，李时珍可以用舌尖轻点，品尝到药味之后，再根据经验，结合药草的形状和颜色，写成药性简介。

除了草木之外，动物也是本草的一个重要部分。过往医书上对动物药性的记载很少，而可以入药的动物大都带有一定的毒性，李时珍为此更是不惜亲自涉险去体验。蕲蛇有医治风痹、惊搐、癣癞等功用，因为蕲蛇牙尖有剧毒，人被咬伤，要立即截肢，否则就会中毒死亡，因此相关记载非常少，但该药在治疗上对诸病有特效，因此非常贵重。只有龙峰山上才有真正的蕲蛇，李时珍追根究底，要亲眼观察蕲蛇，于是请捕蛇人带他上了龙峰山。龙峰山有个狻猊洞，洞周围怪石嶙峋，灌木丛生，缠绕在灌木上的石南藤是蕲蛇最喜欢吃的。李时珍终于亲眼看见了蕲蛇，并看到了捕蛇、制蛇的全过程，将其详细地记录到了《本草纲目》中。

穿山甲也是常用的中药。陶弘景说它能水陆两栖，白天爬到岩石上，张开鳞甲引诱蚂蚁进入甲内，再闭上鳞甲，潜入水中，然后开甲让蚂蚁浮出，最后吞食。为了了解陶弘景的说法是否准确，李时珍亲自上山去观察，并捉到了一只穿山甲。从它的胃里剖出了1升左右的蚂蚁，证实陶弘景说对了。不过，从观察中，他发现穿山甲食蚁时，是挖开蚁穴，进行舔食，而不是诱蚁入甲，下水吞食。李时珍这种对所有相关的知识刨根问底的精神，极大地保障了《本草纲目》内容的准确性和广泛性。

经过27年的努力，他在明万历六年（1578年）完成了《本草纲目》的初稿，此时的李时珍已经60岁了。又经过10年，书稿前前后后修改了3次。虽然书籍已撰写完成，但这部耗时30年的巨著仍然面临着刊印困难的局面。一生从未求过人的李时珍为了多年心血能够面世，也曾苦守在他人门外，求索序言。

万历二十一年（1593年），李时珍抱憾而逝，一直到逝世的那一刻，也没能够看到这本耗费他一生撰写的《本草纲目》见世。万历二十五年（1596年），李时珍逝世3年之后，《本草纲目》才在金陵（今江苏南京）正式出版。