许肇南亲眼目睹了列强的侵略和清庭的腐败无能，主动放弃科举之路，转而寻求科学救国之方。在成都四川高等学堂，许肇南渴求西学，并接受了进步思想，秘密加入了中国同盟会。随后，东渡日本，并几入美国，在美国名校伊利诺斯大学、威斯康辛大学、哈佛大学慕求真知，大量汲取西方先进科学知识。

1914年，许肇南学成回国，登岸上海即往“西门”江苏教育会报到。恰逢时任北洋政府农林、工商二部总长的张謇南下江苏，为创办“全国水利局河海工程专门学校”而奔走，正欲“求一有旧道德、而又有新学识、且教育有经验之校长”。此时的许肇南被张謇遴选为创办河海工程专门学校的负责人之一，1915年1月被正式委任为河海首位校主任（1919年12月后改称校长）。

1915年，河海工程专门学校借用位于丁家桥的江苏省议会官邸为校址，2月7日开始从河北、山东、江苏和浙江四省招生。3月15日，张謇邀约各界名流齐聚学校，举行了隆重的开校典礼，河海成为了辛亥革命后南京第一所招生、开课的公立高等学府。

如何办好这所被全国上下寄予厚望的高等学校，许肇南擘划经营，有条不紊。与创校元老们拟订了办学章程，并在序言《设校旨趣》中，从培养学生的德、体、智三个方面提出了影响河海至今的教育方针：“一是注重学生道德思想，以养成高尚之人格；二是注重学生身体之健康，以养成勤勉耐劳之习惯；三是教授河海工程必须之学理技术，注意实地练习，以养成切实应用之知识。”

许肇南认为，建设一支高素质的教师队伍，对办好中国第一所水利大学至关重要。为了解决当时学校师资力量匮乏的问题，他着力聘请李仪祉、沈祖伟、张云青、张子高、刘梦锡、顾维精、杨孝述等一批富有工程经验而热心教育、影响深远的国内名师前来任教。这些教师不仅具有很强的业务能力，每个人都学有所长，而且大多都具有西方工科留学背景，为当时的河海放眼看世界、吸收国外先进技术和经验提供了可能。

1917年部分教职员合影

前排右三为许肇南

许肇南抱着“持己则以奋勉笃实为归，待人则以仁民爱物为志，师徒一堂，相为诫勉”的态度，对于想进入河海求学的人，提出“两个必自问”的要求，“一是必自问志愿，实有从事河海工程事业之决心然后来学；二是必自审体格，足胜从事河海工程事业之劳苦然后来学。”同时，为应当时淮河治理工程将速兴之急需，打破常规，首先开办速成“特科”，要求入学者有志气、有抱负、有坚实的数学基础和外文水平，这样既能短期成才，立即在当时严重的水旱灾荒斗争中发挥作用，又可以继续吸取国外先进经验，在工作中自学深造。

在极具前瞻性的“三个注重”教育方针和“两个必自问”选才原则下，河海培养出众多优秀建设人才，如获五至七等嘉禾勋章的特科毕业生汪胡桢、获二等河工奖章的张晓云等，还涌现出一大批我国水利事业的先驱。全国水利局年终论考成绩时，学校以“精心擘划，校规学风均称整饬，毕业生成才甚多”，呈请比照简任官例给予嘉奖，许肇南先后获三至五等嘉禾勋章。

河海虽是公立学校，但是由于北洋政府国库空虚，张謇在创办时创办经费相当拮据。即便如此，许肇南还是从紧促的经费里挤出钱购买欧美新书2000余册和大批仪器设备，建起了图书馆、物理试验室、化学实验室、测量仪器室、水力实验室、材料检验室、（图画及模型）陈列室、地质矿物标本室、测候所、蒸汽发动机室和照相印图室等供学生实验。

许肇南还亲自教授伦理、英文、经济、簿记、实业经营等课程。创办之初，国内没有中文教材，许肇南提出完全用外文教材以济急需，得到各位教师的赞同，先后采用英文教材达40余种。此外，许肇南充分认识到了校园文化的熏陶作用，从1917年起，倡导创办了河海人自己的校园刊物《河海月刊》和《河海周报》，用以报道学校新闻、毕业生动态，切磋学术心得，交流研究经验，发表调查报告。同时，还成立了校友会，举办茶话会、演讲会、庆祝（国庆、校庆）会、各种体育竞赛、文艺表演（音乐、话剧）、诗文征集、聚餐、游艺等丰富多彩的校园活动，一时间，河海生机勃勃，欣欣向荣，慕名求学的人络绎不绝。

在悉心教授学生知识和技能的同时，许肇南更关怀体贴学生生活，每月的工资多用以资助经济困难的学生。他对学生进行爱国、革命、民主、自立教育，着重培养学生独立思考和独立工作的能力。正是在这种风气熏陶下，河海学生成为社会变革浪潮的中坚力量。

1919年“五四”爱国运动爆发后，河海师生积极响应。5月9日在小营“演武厅”举行“国耻纪念大会”，参加者有学校师生4000多人。5月13日大、中学成立学界联合会，许肇南被推为临时主席。5月15日又当选为参事长，他始终站在反帝爱国斗争的最前列。当时教育部训令各校校长“对于学生当严尽管理之责。其有不遵约束者，应即立予开除，不得姑宽”。当江苏督军署强迫许肇南开除学生领袖沈泽民、张闻天、王维克等人，并准备予以逮捕时，许肇南竭力保护，暗中让他们火速退学离校，遂免于难，为中国革命保留下了宝贵的“火种”。

担任首任校长以来，许肇南不负使命、克服困难，苦心孤诣、热心办学，严于律己、率先垂范，为创办、建设中国第一所水利教育高等学府做出了突出贡献。尤其是他在办学中确立的办学方针、规划的学制课程、选聘的教职员工、建立的教学组织和制定的一系列规章管理制度及措施等，不仅为当时国家培养急需的治淮专门人才奠定了坚实的基础，亦对后来的河海大学建设与发展产生了历史性的影响。