道一去世之后，怀海初住石门（今江西靖安）。后应佛教信众的邀请,移居新吴（今江西奉兴）大雄队山。此山因山石险峻,达千尺，世称百丈山。怀海在百丈山修建禅林，许多海内学子,慕名而至。由于人多，一定要有某种规章制度，否则，就很难做到和合共住。为此目的,怀海制定了《禅门规式》（清规）。唐宪宗元和九年（公元８１４年）怀海逝世，终年九十五岁。庸穆宗庆元年（公元８２１年），谥为大智禅师。

　　怀海的禅学,他认为:众生心性本净:自心圆明，只要离去妄念，即与佛无异。他的修禅方法,主张顺其自然。他说:“先歇诸缘，休息万事,善与不善，世出世间，一切诸法，莫记忆，放舍身心，令其自在，心如木石，无所辨别。心无所行，地若空,慧日自现。如云开日出”。他主张禅者在顺其自然的同时，不要刻意追求。在日常生活中，门入中如有入提出什么问题,他不作正面回答，而是以打、笑、喝、举拂来表示禅意，让提问的人自己去体会。他每次上堂说法完了，听众离去时，他总是将他们又叫回来,问个“是什么"?这种提醒学人反省法，被后人称为“百丈下堂句”。

　　怀海的作为，在中国佛教史上影响最大的是他制订《禅门规式》，即寺院的清规。他修建的禅林，摹仿其师道一的作法，只设法堂,不立佛殿。他的《禅门规式》，内容很详细,同住的人，都必须共同遵守。规定中说，有德者为化主，称长老，住方丈。参学的大众，不论高下，尽入僧堂。又行“普诸法气上下均力，从事农业生产劳动。这种“普请法”，用现代的话说，就是大家一起义务劳动，现在的寺院中称这种劳动为“出坡”。怀海制订这种劳动制度，是寓禅于劳动之中，也就是现在所说的“农禅并重”或者“生活禅”。每次劳动,怀海总是走在前面。有一次负责管理劳务的执事僧见他年纪太大，便将他的劳动工具藏起来了,劝他休息。他说:“吾无德,争合劳于人”。怀海四处寻找自己的工具不可得，他就停止吃饭。他的这个举动,就是“一日不作，一日不食”说法的由来。

　　怀海制订《禅门规式》，实际是对戒律的一种改革。因为中国的气候和社会习惯都与印度不同,不可能完全按照戒律的规定来执行。怀海的务实创新精神，是令人钦佩的。可惜他制订的《禅门规式》在宋朝就失传了。后来中国佛寺中实行的《清规》，是元代百丈山德辉奉诏重编，取名《敕修百丈清规》,共八卷。其中条文当然是不同的,但总的精神是不会有多大出入的。

　　怀海的门人众多，其中最著名的有灵祐、希运二儿灵祐以湖南沩山为基地,创立了沩仰宗希运以黄檗山（在今安徽和江西之间）作道场，接纳天下禅侣，其中义玄得法后，创立了临济宗。这两个宗派的建立，使禅法更加传播于中华大地。