1920年，徐光宪出生在浙江绍兴一个还算殷实的家庭，他是鲁迅先生的老乡。父亲精通《九章算术》，教他解“鸡兔同笼”等古代数学趣题，又教他下围棋，这些都激发了徐光宪对学习的兴趣。

到了20世纪30年代，父亲病逝，家道中落。母亲告诉徐光宪：“家有良田千顷，不如一技在身。”徐光宪权衡思量，决定放弃考普通高中，改考浙江大学附属杭州高级工业职业学校（简称“杭州高工”）。因为杭州高工的学生，毕业后即可直接工作，徐光宪希望自己早日挑起一部分家庭负担。

这所高工教育体系规范，课时紧凑，3年时间，几乎涵盖了大学土木工程系的所有课程。面对课业，徐光宪学习非常用功。

一天晚上，徐光宪去听时任浙大化学系主任周厚复先生的讲座，主题是“荧光染料”。他曾回忆道：“周厚复先生把荧光染料倒进盛有水的脸盆中，关掉电灯，脸盆中的液体熠熠发亮；周先生又把毛巾放进脸盆中绞了一绞，拎起来，整块毛巾在黑暗中发出美丽的亮光，让我和同学们兴奋不已，直呼化学的神奇。”这次讲座让年轻的徐光宪感觉到化学“很好玩”，对他以后走上化学研究的道路产生了影响。

徐光宪求学的这段日子，正是中国相对稳定、有所发展的时期，可惜不久被日本侵略者打破了。他在杭州高工读书刚刚一年，1937年7月7日，“七七事变”爆发了，全面抗战由此而始。杭州沦陷后不久，浙大内迁至贵州，附属于浙大的杭州高工则解散了。徐光宪转入宁波高工，继续学业。由于宁波市区也被日军占领，他们只得在宁波乡下一个破庙里上课。正是在这样艰苦的环境中，徐光宪于1939年夏毕业了。

这时，一次被骗的经历，永久地改变了徐光宪的人生轨迹。他听说，昆明铁路局派了人来，要招收8名毕业生；经过考核，徐光宪被录取了。那时候，到云南的陆路不通，需要从上海乘船走海路，绕一大圈去云南。8个人满怀希望，跟着昆明铁路局来的领班来到上海；领班把他们留在一个小客店中，说声“去买船票”，便离开了。后来他们才知道，这个领班带着他们的路费潜逃，在乱世中不知所踪了。

无奈之下，徐光宪只好投奔在上海教书的大哥——徐光宇。徐光宇虽没有钱送徐光宪去昆明，却给了他学费，让他去读大学。若干年后，徐光宪回忆起来说：“人生的一些重要转折点上，常有一些偶然的机遇。若不是昆明铁路局的人携款潜逃，我就不会羁留上海，也不会有上大学的机会，或许现在，我就是一个普通的铁路工程师。这是我一生中因祸得福的第二个机遇。”

1940年9月，徐光宪考取了当时学费最便宜的国立交通大学，并获得了奖学金。选择专业时，他权衡再三。其实，他对土木工程根本不感兴趣，只是看在当时找工作容易，才报高工的。徐光宪数学功底深厚，本来想去读数学专业，但这个专业找工作又太难了。综合考虑兴趣、就业，徐光宪选择了化学。

当时男女不平等，有条件考大学的女性很少，能坚持读下来更是不易。上大课时，女同学坐在第一排，男同学按进校时的成绩高低，分坐二、三、四排。徐光宪坐在第二排，前面有一位名叫高小霞的女孩。进校以来，徐光宪成绩优异，引来了高小霞的注意；徐光宪则发现，高小霞的文学才华和英语水平高。于是他们相互请教问题，交往日多，几年下来，有了比较多的交流和了解，渐渐互相喜欢。高小霞自强不息，成为班级中唯一一位坚持到毕业，并取得学位的女孩，更是让徐光宪敬佩不已。

毕业后，1946年，徐光宪、高小霞结为伉俪，有许多交大的老师、同学参加了他们的婚礼。

接下来几年里，夫妻二人先后获得了赴美留学的机会，徐光宪在美国攻读了博士学位，高小霞也获得了硕士学位。但抗美援朝战争开始后，局势突变，他们听到消息，美国国会或将通过法案阻止中国留学生回国。他们考虑再三，下定决心：“科学没有国界，但科学家有祖国。”高小霞毅然放弃了自己的博士学位。1951年4月，徐光宪、高小霞携手登上了向祖国驶去的“戈登将军号”邮轮。