1901年秋,马相伯借徐家汇老天文台余屋(所属耶稣会),开始招收生徒办学。1902年,在蔡元培等建议下,马相伯决定要创办大学,并将学校命名为震旦学院。1903年2月27日,震旦学院正式成立,马相伯自任院长,耶稣会派出一些传教士担任教师,3月开始上课,有学生20人。
震旦,意谓"中华曙光",源自古印度语Cīnsthāna(中国)的音译,含"东方日出旦明"之意。印度旧称中国为"云汉国"、"震旦国"、"脂那"、"支那"、"神州",均为同义。西文译震旦为"Aurora"。
震旦学院创办后,发展很快,至1904年初在校学生已经翻了4倍,1907年达到170多人,于是在在卢家湾区(今重庆南路两侧)建立了一座新校园。在传教士P·H·阿莱任教务长时,震旦以法国的学士学位教程为楷模,提出一套三年制预科教程、一套三年制教程。教程分文理两部分,培养目标是使学生取得相当于法国硕士学位的证书。