林砺儒，原名林绳直，1889年7月18日出生于广东省信宜县北界镇结坡上村的一个书香人家。祖父林兆蓉是同治庚午科举人；父亲林达是秀才，因鼠疫早逝。林砺儒4岁丧父，母亲又身患癫痫，是祖母将其养大，伯父林鸿和叔父林适帮他完成了启蒙教育。叔父林适也是秀才出身，曾入广雅书院学习，颇有学问，又擅长书法，外出教学时总把林砺儒带在身边。叔父经常吟诵孟子“得天下英才而教育之，三乐也”，这促使林砺儒从小就萌生了从事教育事业的信念。伯父林鸿本是廪生，后不愿出仕留在家乡。林鸿专门聘请了一位家庭教师来教林砺儒，并经常检查他的学习情况，对他要求十分严格。伯父对他的影响巨大，直到晚年林砺儒仍感念不已。1905年，林砺儒进入高州高郡中学堂读书。1911年，他以优异的成绩毕业，应信宜县中义学堂的聘请到该校任教。同年又参加了公费留学日本的考试，选报了东京高等师范学校，抱定了终身服务教育的决心。1918年3月，林砺儒从日本学成回国，次年4月来到北京高等师范学校任教，此后终其一生，一直坚守教育岗位，是名副其实的“最有恒心”的教育家。