「大學」一詞除了指儒家經典四書之一的《大學》外，尚指聚集在特定地點整理、研究和傳播高深領域知識的機構。 根據文獻記載，大學作為一種具有高等教育職能的機構，可以追溯到五帝時期的成均和上庠；董仲舒謂：「五帝名大 學曰成均，則虞癢近是也」。虞舜時，成立上庠，「上庠」即「高等學校」的意思；鄭玄：「上庠為大學，在王城 西郊。」以後夏朝的東序，商朝的瞽宗，周朝的辟雍，均是當代位於京師的最高學府。戰國時期，齊國國君齊桓公建 立的稷下學宮是一種由官方主辦、私人主持的辦學模式。中國思想史上不可多見、蔚為壯觀的「百家爭鳴」，可見於稷 下的記載。孟子、淳于髡、鄒衍、田駢、環淵、魯仲連等戰國名學者，名氣稍遜的彭蒙、季真、王斗、田巴等都 曾在此講學，荀子更是做過祭酒（相當於校長），是中國高等教育的一個寫照。
到了清末，隨著近代科學技術從西方傳入中國，開始出現以近代科技教育為主的新式學校。清政府頒布癸卯學制後，中國開 始大量興辦新式學堂，初期主要借鑒日本，「大學」的現代意思則是由此而來，不少師資也直接從日本聘來。舊式學校或廢 止，或改為新式學堂。高等綜合學堂名稱先後統一稱為「大學堂」、「大學校」，民國肇建後，統稱為「大學」，許多 學者從歐美大學留學後，歸國任教，因此更多直接借鑒歐美學制的大學。北洋政府時期制定了壬戌學制。國民政 府成立後，為了體現大學的綜合性，曾一度規定具有三個以上學院的高校才能稱為「大學」。