第二次世界大战打响了，沃森想要通过世界贸易及国际间的经济交流阻止战争爆发的幻想彻底破灭，他深受打击，对战争闭口不谈，他虽然并不是什么绝对的和平主义者，但他的内心深处还是希望世界和平，经济发展，他退回了希特勒授予的勋章，但对美国是否会参与世界大战纠结矛盾。

他不想与战争有任何瓜葛，不想把恩地科特变成军火工厂，不想让IBM公司披上战争的阴影，更不会像有些公司为发战争财向国外出售战斗机，就连国防部在1940年的秋天逼迫他代表IBM公司签署制造枪支的合同时，他的心情也是相当的沉重，不得已地新建了一个子公司专门加工制造军用枪支，并且不让其他的工厂与这个子公司有丝毫的联系。

当日本偷袭了珍珠港之后，美国的立场明确，加入了这场浩浩荡荡的反法西斯的战斗之中，这时，沃森也不再犹豫，他带领IBM 全力以赴地支持美国参战，并且还自豪地在美国军队用的武器上刻上了IBM的标志，而IBM的打孔卡在战争中确实发挥了巨大的作用。

可以这样说，在战场上，整个部队是靠IBM的打孔卡运作的，这场世界性的战争太过巨大太过复杂，有太多的事情需要当场记录下来加以分析，以便大局的掌握和战术的制定，而这都仰仗了IBM 的打孔卡，打孔卡伴随着军队里的每一个人，从他应征入伍开始到正式的服役、分配部队、接受训练、服役一直到退役；另外打孔卡还可以记录轰炸的结果、死亡人数、受伤人数、失踪人数、战俘人数以及供应情况等，这些数据都对战争有很大的帮助。

战争快结束的时候，小沃森去过刚从日本人手里收复的太平洋珊瑚岛，在那里，他发现了一支机动打孔队，他们正把部队的薪饷制成图表。对此，小沃森感到很是自豪，因为将IBM的打孔机应用在军用卡车上，这是弟弟迪克的发明。

战争使IBM的销售额大幅度提高，他们被部队要求生产各种供应国防的军用机器和军需用品，如战斗机上的机关枪、陆军的卡宾枪、轰炸机上的瞄准器、防毒面具等等。只是，IBM的工厂规模以及生产能力已经无法满足需求，于是沃森当机立断，决定将恩地科特的工厂扩大一倍，并且在此基础上，还在一个叫波基普西的地方建立了一个新的工厂。

另外，沃森决定削减其他的生产线，用来支持军需品的生产。

其实，生产军用产品可以使沃森赚个盆满钵满，但是为了道义，为了企业形象，更为了表达对美国部队的正义支持，他明确规定，IBM生产军需品的利润不得超过百分之一。

这就是他，坚决不发战争财！因此，二战期间，IBM每年的利润只保持在战前水平。

不仅如此，沃森还大力支持IBM在战争期间参军服役的雇员们。他向每一个服役之人发放相当于本人四分之一工资金额的福利金，有时候还会寄一些衣物之类的东西，并且在圣诞节的时候，他总是不会忘记给他们寄送食品和礼物，并且附上自己诚挚的祝福。

这样的做法，无疑让雇员们深受感动。无论是因为爱国的原因，还是为了企业长远的发展考虑，他都是一个聪明的管理者，一个让雇员们信服的公司领导者。

小沃森说：“我与其他人一样也得到了IBM的战争补贴和食品盒，不管我到什么地方，公司的报纸《商业机器》每周总能送到我手中。这份报纸上登满了IBM如何支持美国参战的消息。也总有父亲为新工厂剪彩的照片。照片上，彩旗飘扬，大都市歌剧院的歌舞队在旁表演助兴。”

战争使IBM迅速成长起来，由于业务的扩大，公司的发展，也使沃森的工资相应提高（他的工资制度是与企业的业务量和利润有关的），然而他并没有把由于战争增加的薪水收入囊中，而是用那部分资金设立了基金，用来帮助那些在战争中牺牲的雇员们的家庭经济。

他的种种行动，明明白白地表示了自己不会像某些企业，不顾战争的残酷与血腥，大发战争财，但是这并没有限制IBM的发展，它同样在第二次世界大战中受益无穷，迅速地成长起来并成为真正的大企业，虽然他的政策限制了利润的提高，但销售额大幅增加，直接从4600万美元飙升到1.4亿美元，另外他的政策还保证了服役的熟练雇员在战争结束后会回归工厂，这种投资也有利于企业的成长与发展。

一个优秀的企业家，一个优秀的管理者，是站在巨人的肩上看世界的，从长远的角度思考问题，他们需要具有高瞻远瞩的眼界，具有大局观，重视企业意识，并且不怕投资，不怕短期的亏损，而沃森做到了，并且做得漂亮，他说的不发战争横财，但是却得到了一笔无形的财富，使IBM在未来的道路上受益无穷。