汶上县城西边有一条贯穿南北的汶河，1906年，陈伯衡就在河边的西周村出生。

自幼聪颖勤奋的陈伯衡，十六岁考入城内书院高小。一天，他来到书院，学着先生的神情，把手放在背后，抑扬顿挫地背诵起“五经”“四书”来。先生看着他背诵的认真劲儿，微微点了点头。

突然，陈伯衡问先生：“先生，我刚才背的这段是什么意思？请您讲一讲。”这一问，把正在摇头晃脑的先生问住了。只见先生拿着戒尺，厉声问道：“你知道这段的意思吗？”正在高声念书的同学们都惊讶地看着那把戒尺，课堂霎时变得鸦雀无声。   

“君子喻于义，小人喻于利，这句话的意思是君子懂得追求道义,小人只知道追求个人私利。”陈伯衡把自己的见解大胆地说了出来。先生听后，点头赞许。同学们投来羡慕的目光。

1931年，陈伯衡考入国立北京大学，学习期间同中共地下党工作人员交往甚密，并深受其影响。

一天，陈伯衡听到青岛和北平传来学生抗日救亡爱国运动的消息，深受鼓舞。他站在讲台上，愤怒地喊到：“国家有难，我们不能坐以等待。山河破碎，我们要走出学校，向蒋介石国民政府请愿示威……”

陈伯衡积极参加学生抗日救亡爱国运动，成为“一二·九”学生赴南京请愿团的代表之一。同学们对国民政府的行径深恶痛绝，他们不怕国民党反动派的镇压，积极参加学生请愿示威游行，振臂高呼：“反对蒋介石对日寇的不抵抗主义，反对日本帝国主义强占东三省”。

1937年10月，陈伯衡随师生南撤，途经家乡汶上，与小学时期的挚友刘启文、曹志尚相见。陈伯衡发自肺腑地说：“要想真正抗日救国，只有依靠共产党。共产党领导我们的抗日武装，我们才有希望。”

过了几天，陈伯衡带着干粮，急匆匆地去济宁寻找组织。他找到了民先总部负责人、鲁西南工委成员江明，宛如漆黑的夜晚大海中航行的船见到了灯塔，陈伯衡激动地说：“汶上需要鲁西南工委的领导，请派人领导武装。”

正在三路军政训处学习的共产党员刘星见到陈伯衡，激动地握住他的手：“我们需要你这样的同志，马上开展工作。”陈伯衡听后，感慨地说：“我们找到了党，就有了航标，我们就有了希望。”

1938年1月，汶上沦陷后，日军对汶上县城进行大肆抢掠，陈伯衡准备在永安寺起义。

永安寺，一个十分偏僻的寺院，来往行人不多，不易被敌人发现。按照陈伯衡和刘星等人事先的部署，2月5日，汶上和东平两县的百余名爱国志士，乔装打扮，从四面八方聚集到永安寺，拉起了抗日武装，举起了抗日救亡的旗帜，汶上县成立了第一支有共产党员领导的人民抗日自卫队。陈伯衡和战士们吃一样的饭，穿一样的衣，寒冷的冬天睡草窝。尽管条件艰苦，队伍仍不断壮大，人员和枪支不断增加。陈伯衡凭着一腔热血和大智大勇，带领战友们克服生活、装备上的种种困难，冲破敌人层层封锁，先后转战于汶上、东平等十几个县，给日伪军沉重的打击，创造了一个又一个奇迹。

1939年3月22日，陈伯衡在奉命率部队赴东平县郑海村对日军阻击作战时，不幸中弹牺牲，年仅33岁。