15世纪末，由欧洲通往美洲的大西洋航道被哥伦布开辟出来以后，欧洲人纷纷远涉重洋来到美洲。17世纪初，首批英国移民到达北美，在那里开拓自己的“伊甸园”——新英格兰。移民中有100多名清教徒，曾在牛津和剑桥大学受过古典式的高等教育，为了让他们的子孙后代在新的家园也能够受到这种教育，他们于1636年在马萨诸塞州的查尔斯河畔建立了美国历史上第一所学府——哈佛学院。1780年，即美国建国后的第四年，已经有了140多年历史的哈佛学院升格为哈佛大学。

当初哈佛学院的创办者把剑桥大学的模式移植过来，学院最初定名为“剑桥学院（Cambridge College）”。1639年，为了纪念学院的创办者和建校费用的主要捐献者约翰·哈佛（John Harverd），马萨诸塞议会通过决议，将学院改名为“哈佛学院”。
由哈佛学院时代沿用至今的哈佛大学校徽上面，用拉丁文写着VERITAS 字样，意为“真理”。哈佛大学校训的原文，也是用拉丁文写的，意为“以柏拉图为友，以亚里士多德为友，更要以真理为友”。校徽和校训的文字，都昭示着哈佛大学立校兴学的宗旨-求是崇真。
担任哈佛大学校长长达20年（1933～1953）之久的美国著名教育家科南特曾经说过：“大学的荣誉，不在它的校舍和人数，而在于它一代一代人的质量”。正是在择师和育人上坚持高标准、高质量，哈佛大学才得以成为群英荟萃、人才辈出的第一流著名学府，对美国社会的经济、政治、文化科学和高等教育都产生了重大影响，对世界各国的求知者具有极大的吸引力。