彭桓武的父亲彭树棠是麻城县(现湖北麻城市)王岗乡(现麻城市铁门岗乡)人,系晚清举人,肄业于两湖书院。因德学兼优,1897年被湖广总督张之洞选派到日本早稻田大学法政专科学校读书。回国后任湖北省师范庚壬堂监学。
1904年日俄战争在中国东北**,东北三省边务工作繁重,急需人才。张之洞调娴熟日语、精通法学的彭树棠任延吉边务公署参事兼延吉开埠局坐办,掌管涉外事务。彭树棠恪尽职守,对延吉边界白俄屡次挑衅都运筹帷幄消患于无形。
后任**第三任长春县县长,手书“衙作禅堂心作佛,民为眷属国为家”对联,镌在衙门口并以此为座右铭。彭树棠以敬业为民、两袖清风赢得长春人民的爱戴,人们尊称他为“长春彭”。
1915年10月6日夜,彭桓武呱呱落地。由于是早产儿,疾病陪伴了彭桓武整个童年,但这个倔强的小生命酷爱数学和计算。时任长春县县长的父亲,在他咿呀学语时就教他简单的加减。4岁时,他已学会四则运算。1930年,彭桓武来到北平求学,因勤奋好学一年内连升三级。