马大猷祖籍广东潮州，1915年出生于北京。1936年毕业于北京大学物理系。1938年赴美国留学，1940年获哈佛大学哲学博士学位，同年回到祖国，曾先后在西南联合大学和北京大学任教，1948年任北京大学工学院院长，1952年任哈尔滨工业大学教务长。1955年当选中国科学院学部委员，同年调中国科学院工作，历任物理研究所、电子研究所、声学研究所研究员、副所长，数学物理学部常务副主任，研究生院常务副院长等职。曾兼任中国声学学会名誉理事长、中国环境科学学会副理事长、中国电子学会副理事长等职。

马大猷1951年加入中国民主同盟，1979年加入中国共产党，历任中国民主同盟第五、六、七届中央委员会副主席，第八、九届中央委员会名誉副主席。是第四届全国人大代表，第二、三、五、六届全国政协委员，第七、八届全国政协常务委员。