嚴修（1860年—1920年），字範孫，本是清朝翰林，做過學部侍郎，思想相當開明。張伯苓（1876年—1951年），原是天津北洋水師學堂的畢業生。張伯苓早年曾在海軍服務，期間，他親歷了甲午海戰的失敗，從此決心棄戎從教，創辦新式教育，以教育救國。張伯苓先在天津嚴修家館中教授西學，為以後辦學奠定了基礎。
嚴修和張伯苓在考察了日本教育回國後，於1904年在嚴氏私宅創辦了敬業中學堂，1906年更名為南開中學堂。民國建立後，又更名為南開學校。1918年，嚴、張二人又赴美國考察私立大學的組織與發展狀況，1919年，南開大學正式成立，張伯苓親任校長。
作為私立大學，南開大學創辦之初的艱難自是不言而喻的，其中尤以辦學經費問題為最。為解決這些問題，嚴修和張伯苓二人四處奔走，遊說各地。為了籌到款項，張伯苓不知坐過多少冷板凳，捱過多少白眼，但他卻說自己這樣做，是“為興學而作，並不覺難堪”。張伯苓還對自己的學生講：“我為自己向人開口捐錢是無恥，為南開不肯向人開口捐錢是無勇。”在二人的努力下，南開先後得到了北洋政府總統徐世昌，前總統黎元洪、馮國璋，山西富豪孔祥熙等人的資助。此後，南開還得到過一些國外機構和個人的資助（如美國石油大亨洛克菲勒捐助建築及裝置費萬元，河南袁述之捐款7萬元等）。但南開接受私人捐款一向有明確的原則，即“決不受任何有限制之募款”。正是由於張伯苓的堅持不懈，南開大學才得以在艱難的狀況下逐步發展成蜚聲海內外的著名學府。
南開大學成立時，設有文、理、商三科，招收了96名學生，周恩來是文科第一期學生（學號62號）。1920年增設礦科（後於1926年停辦）。在建立初期，南開大學就開時代先聲，實行男女同校，這在北方的私立大學中是第一家。1920年秋季，許桂英考入南開大學文科，從此拉開了南開大學男女學生同校的歷史。1927年至1937年，南開大學各方面都有了較大的發展。辦學規模進一步擴大，裝置更加完善：1927年，南開大學成立了社會經濟研究委員會（後改稱經濟研究所）和滿蒙研究會（後改稱東北研究會），經濟研究所趨重實地調查和以物價指數為主的經濟統計工作，其出版的《經濟週刊》、《南開指數年刊》在當時的國內外學術界都頗有名氣。1929年，改科為院，設有文學院、理學院、商學院及醫預科，共13個系。1931年，商學院與文學院經濟系及社會經濟研究委員會合併成立了經濟學院，同時在理學院增設了化學工程系和電機工程系。1932年，設立應用化學研究所；在校園建設上，1927年盧木齋捐資10萬元，開始興建“木齋圖書館”。1931年陳芝琴捐資建成“芝琴樓”；在學制上也有較大的轉變，從最開始照搬美國模式發展為在學習西方先進教育思想的同時結合中國實際，這可以說是南開大學發展到一個新階段的標誌。
張伯苓認為造成中國貧窮落後的原因有五條，即愚、弱、貧、散、私。所以在辦學中，張伯苓特別注意從這些方面教育學生。
首先，張伯苓非常提倡科學。雖然南開的經費問題一直困擾著他，但在南開成立之初就從日本購回了多種理化儀器，以後又每年添置。對該花的錢，張伯苓決不吝嗇，使南開的教學裝置在當時除教會大學以外的私立大學中可謂首屈一指。
張伯苓還非常重視道德教育。嫖、賭、煙、酒、早婚等在南開都是不允許的，學生一旦違犯就會被勒令退學。張伯苓曾說：“正人者，必先正己，要教育學生，必先教育自己。”他早年以身作則戒菸的故事就一直在南開傳為佳話。有一次，張伯苓批評一個違犯學校規定抽菸的學生，沒想到這名學生反駁說：“您叫我不抽菸，您幹嘛還抽？”張伯苓半天沒說話，接著他突然把菸袋杆一折兩段，然後對學生說：“我不抽，你也別抽。”從此以後，張伯苓就再沒有抽過一口煙。南開校門旁曾經立了一塊大鏡子，上面刻著：“面必淨，發必理，衣必整，紐必結；頭容正，肩容平，胸容寬，背容直；氣象：勿傲，勿暴，勿怠；顏色：宜和，宜靜，宜莊。”當年美國哈佛大學校長伊利奧博士參觀南開時對此感觸頗深，並特意讓人將該鏡拍攝下來登載在美國報刊上。
為克服中國人弱、散、私的毛病，張伯苓還很注重體育鍛煉和團體活動。南開規定每天下午四點以後是課外活動時間，所有學生必須離開教師和宿舍到運動場或社團參加活動。早在還是南開學校時，學校就擁有8個網球場；南開大學籃球隊在