杜鲁门1884年5月8日出生于密苏里州拉马尔，是约翰·安德森·杜鲁门（John Anderson Truman）和马莎·埃伦·扬·杜鲁门（Martha Ellen Young Truman）的长子。杜鲁门有一个弟弟和一个妹妹，分别叫约翰·维维安·杜鲁门（John Vivian Truman，1886年~1965年）和玛丽·简·杜鲁门（Mary Jane Truman，1889年~1978年）。
杜鲁门的父亲约翰·杜鲁门是一位农夫和家畜商贩，在杜鲁门只有11个月大的时候，便举家迁到密苏里州格兰德维尤的一个农场。那个农场由杜鲁门的祖父母所拥有，占地达600英亩（240公顷）。为了方便上学，杜鲁门一家在他6岁的时候又迁移到密苏里州独立城。1901年，杜鲁门从高中毕业后，从事了一系列的神职人员工作。1906年，杜鲁门回到了格兰德维尤的农场并在那里度过了约十年的时光。在这段时期里，他结识了贝丝·华莱士（Bess Wallace），并在1911年向她求婚，但却以失败收场。此后，杜鲁门说要比农夫赚到更多钱后，才再次向贝丝求婚。结果，他在1918年如愿以偿，当时他刚从第一次世界大战的战场回来，而且还得到了上尉军衔。
杜鲁门是最后一位没有大学学位的美国总统，但他曾经于1920年代在堪萨斯城法律学校（Kansas City Law School，即今日密苏里州-堪萨斯城大学的法律学校）读过两年的法律学位课程，美国最高法院法官查理斯·埃文斯·惠特克曾经是他的同学。
