在荆竹山村旁的大路边，毛泽东向部队宣布：今天要上山了，今后要在那里扎下去，建立革命的根据地。他要求大家上山后要同山上的群众和王佐的部队搞好关系。并当场宣布三大纪律：行动听指挥，筹款要归公，不拿群众一点东西。当晚部队到达大井村，受到王佐部队和群众的欢迎。27日，部队进驻井冈山中心——茨坪。
在万山起伏的罗霄山脉，位于中段的井冈山地区，是一优秀的军事根据地。1928年11月25日，毛泽东在向中央的报告中分析说：
井冈山，介在宁冈、酃县、遂川、永新四县之交。北麓是宁冈的茅坪，南麓是遂川的黄坳，两地相距百八十里。四周从拿山起经龙源口（以上永新）、新城、茅城、茅坪、大陇（以上宁冈）、十都、水口、下村（以上酃县）、营盘圩、戴家埔、大汾、堆子前、黄坳、五斗江、车坳（以上遂川）到拿山，共计五百五十里。山上大井、小井、上井、中井、下井、茨坪、下庄、行洲、草坪、白银湖、罗浮各地，均有水田和村庄，为自来土匪、散军窟宅之所，现在作了我们的根据地。但人口满两千，产谷不满万担，军粮全靠宁冈、永新、遂川三县输送。山上要隘，都筑了工事。医院、被服厂、军械处、各团留守处，均在这里。现在正从宁冈搬运粮食上山。若有充足的给养，敌人是打不进来的。
毛泽东还进一步对罗霄山脉北、中、南三段进行了比较分析：
广东北部沿湖南两省边界至湖北南部，都属罗霄山脉区域。整个的罗霄山脉我们都走遍了；各部分比较起来，以宁冈为中心的罗霄山脉的中段，最利于我们的军事割据。北段地势不如中段可进可守，又太迫近了大的政治都会，如果没有迅速夺取长沙或武汉的计划，则以大部兵力放在浏阳、醴陵、萍乡、铜鼓一带是很危险的。南段地势较北段好，但群众基础不如中段，政治上对于湘赣两省的影响也小些，不如中段一举一动可以影响两省的下游。中段的长处：（1）有经营了一年多的群众基础；（2）党的组织有相当的基础；（3）经过一年多的时间，创造了富有斗争经验的地方武装，这是十分难得的；这个地方武装的力量，加上红军第四军的力量，是任凭什么敌人也不能消灭的；（4）有很好的军事根据地——井冈山，地方武装的根据地则各县都有；（5）影响两省，且能影响两省的下游，比较湘南赣南等处只影响一省，且在一省的上游和僻地者，政治意义大不相同。
从此，毛泽东在这里开始了一场威武雄壮的创建以宁冈为中心，以井冈山为依托的“工农武装割据”的崭新斗争。
从“霹雳一声暴动”，到红旗打上井冈山，毛泽东在大革命失败后革命处于低潮的形势下，毅然放弃攻打大城市的计划，引兵井冈，及时地实现了战略转移。历史证明，这是一个正确而伟大的战略决策。
当部队10月上旬刚刚进驻茅坪时，毛泽东就连夜在攀龙书院召集永新、宁冈、莲花三县的部分党员会议，了解当地党员的存在情况，研究迅速恢复当地党组织的问题。并写信给湘赣特委，建议派人加强酃县的工作。11月上旬，毛泽东在茅坪的象山庵又专门召集宁冈、永新、莲花三县原党组织负责人开会。参加会议的有宁冈的龙超清，永新的刘珍、刘作述、王怀、贺敏学、贺子珍，莲花的朱亦岳。会上，毛泽东和大家一起认真地分析了各县党的状况，批评了边界党内一部分同志害怕斗争的思想，要求各县重建党的组织，深入发动群众，建立红色政权。
为了迅速推动地方建党工作的开展，毛泽东采取了“军队的党帮助地方党的发展”的方法。1927年12月，受毛泽东的委派，毛覃带领两名军队干部，来到宁冈县乔林乡开展建党工作，建立了乔林乡党支部。1928年2月底，毛泽东来到永新县秋溪乡，培养发展了一批党员，建立了秋溪乡党支部。到1928年2月，先后建立了茶陵县委、遂川县委、宁冈县委、永新县委、酃县特别区委、莲花特别支部。
在重建边界党组织的时候，毛泽东不仅注意从组织上建党，更注意从思想上建党，这是毛泽东建党思想中一个有重大意义的内容。
1928年11月，毛泽东在向中央的报告中分析了边界党组织存在的两个严重问题：一是地方主义。“边界的经济，是农业经济，有些地方还停留在杵臼时代。社会组织是普遍地以一姓为单位的家族组织。党在村落中的组织，因居住关系，许多是一姓的党员为一个支部，支部会议简直同时就是家族会议。”二是土客籍问题。“土籍的本地人和数百年前从北方移来的客籍人之间存在着很大的界限，历史上的仇怨非常深，有时发生很激烈的斗争。”“这种土客籍的界限，在道理上讲不应引到被剥削的工农阶级内部来，尤其不应引到共产党内部来。然而在事实上，因为多年遗留下来的习惯，这种界限依然存在。”“这种情况，反映到党内来，时常发生无谓的斗争。”因此，毛泽东提出了一个重要的问题和一个重要的思想：
在这种情形下，“斗争的布尔什维克党”的建设，真是难得很。
我们感觉无产阶级思想领导的问题，是一个非常重要的问题。边界各县的党，几乎完全是农民成分的党，若不给以无产阶级的思想领导，其趋向是要错误的。除应积极注意各县城和大市镇的职工运动外，并应在政权机关中增加工人的代表。党的各级领导机关也应增加工人和贫农的成分。
毛泽东的这一思想，在后来的古田会议决议中得到了更完整的体现。正是这一思想，为把根据地内以农民成份为主的党建设成真正无产阶级的先锋队，找到了一条正确的道路。
在恢复重建地方党的同时，毛泽东抓住湘桂军阀混战，边界各县守敌空虚的有利时机，率领部队打击地方武装，分兵以发动群众，建立革命政权，创建革命根据地。
11月中旬，工农革命军第一营从井冈山出发，攻打茶陵。18日，部队攻占了茶陵县城。但团长陈浩等人，不去建立人民政权，只在伪县长公署门前挂上一块“人民委员会”的牌子，委派一个县长，按旧政府的一套制度，每每升堂审案，旧官吏仍在县衙门进进出出，部队所需经费仍由商会摊派，群众十分不满。毛泽东得知这一情况后，立即写信严厉批评陈浩等人的错误做法，要求部队大力开展群众工作，建立工农兵政府。11月下旬，茶陵县工农兵政府成立。工人出身的谭震林被选为政府主席。这是井冈山革命根据地第一个红色政权。同时，工农革命军还帮助建立了县工会、县农会、县赤卫队。
12月下旬，茶陵红色政权受到强敌进攻。这时在桂东游击的第三营，在张子清等人的带领下赶来参战。由于敌我力量悬殊，部队撤出茶陵，向井冈山转移。但团长陈浩和副团长徐庶、参谋长韩庄剑却在途中企图把部队拉到湘南，投靠驻在宜章的蒋系十三军军长蒋鼎英。毛泽东闻讯后，迅速从宁冈出发追赶部队，在茶陵的湖口追上部队后，将部队带回砻市。前敌委员会决定，将陈浩等叛徒处决，任命张子清为团长，何挺颖为党代表，朱云卿任参谋长。
12月底，在砻市召开的处决陈浩等人的群众大会上，毛泽东发表了讲话。他总结部队攻打茶陵的经验教训指出：“我们是工农革命军，每个人既是革命战士，也是革命的宣传员，不仅要打仗，还要向群众宣传我们的主张，组织群众，武装群众，只要我们和群众打成一片，革命胜利就有把握。”由此，毛泽东提出了工农革命军的三大任务：第一、打仗消灭敌人；第二、打土豪筹款子；第三、宣传群众，组织群众，武装群众，帮助群众建立革命政权。
三大任务是毛泽东提出的又一重要的建军思想。建立巩固的革命根据地，这是党的政治任务。人民军队不仅是战斗队，同时也是工作队，这一思想提出，使人民军队真正成为执行党的政治任务的武装集团。谭震林后来对此评价说：
毛泽东亲自制定的建军原则，在马克思列宁主义著作中同样是找不到的，但正由于毛泽东同志不拘泥于任何教条，紧紧从实际出发，从革命实践的经验出发，他才创造性地发展和丰富了无产阶级的建军学说。这些原则的贯彻执行，使我军成为真正的人民军队，成为党所领导的执行革命政治任务的武装集团，既是战斗队，又是工作队。从井冈山时期起，军队就不但打仗消灭敌人，而且从事筹款、生产，帮助地方建党，发展地方武装，宣传、发动和组织群众，建立地方革命政权，从而成为完成党所规定的革命任务的最重要的柱石，保证了土地革命的深入开展和革命根据地的不断发展壮大。
毛泽东率工农革命军第一团撤到井冈山后，赣西万安农军举行武装起义，攻打万安县城。为了支援万安农军，1928年1月4日，毛泽东率工农革命军第一团南下遂川。在大坑，工农革命军打垮了遂川县靖卫团，县城的敌人望风弃城而逃。当日，工农革命军占领遂川县城。
部队刚进县城时，群众大多数因不明情况而跑了。部队立即分兵，以班、排为单位，打着“宣传队”的红旗，展开了宣传群众的工作。经过宣传，逃走的群众陆续回来了。这时，部队又领导广大的贫苦农民开展打土豪的斗争。几千年来受尽地主豪绅压迫的农民，扛着锄头，拿着扁担，把土豪劣绅一个个抓起来进行斗争，隐藏的粮食、猪肉和衣服搜出来后，分给了贫雇农，群众被发动起来了。
1月24日，遂川工农兵政府成立暨审判土豪劣绅大会在老百姓的一片锣鼓声中召开。大会的主席台两侧，悬挂着毛泽东草拟的一副对联：
你当年剥削工农，好就好，利中生利；
我今日宰杀土劣，怕不怕，刀上加刀。
大会选举西庄村的贫苦农民王次淳提任县政府主席。这是井冈山革命根据地第一个农民出身的同志掌握印把子。
看到曾经世代遭受阶级压迫的泥腿子当家做了主人，毛泽东心里抑制不住一阵阵激动和喜悦。他指着坐在主席台上的王次淳，兴奋地说，今天遂川县工农兵政府成立，我们工农群众掌了权，这位就是我们的新县长。前天他还在挑粪，今天脚上还穿着草鞋，腿上还有泥巴。如今农民当县长，这是自古以来没有的大事情！他号召遂川人民团结起来，为保卫红色政权而斗争！
大会结束时，工农兵政府立即行使人民给予的权力，当场处决了罪大恶极的土豪劣绅郭渭坚。
这一天正是农历正月初二，掌握了政权的遂川人民，高兴地唱道：
过新年，过新年，今年不比往常年。
共产党军来到了，要打倒萧家壁，要活捉罗普泉。
过新年，过新年，今年不比往常年，
共产党军来到了，又分谷子又分田。
过新年，过新年，你拿斧子我拿镰，
高举红旗开大会，工农翻身掌政权。
在遂川开展工作期间，毛泽东还针对部队群众工作遇到的问题，在三大纪律的基础上，又对部队提出了六项注意：一、上门板、二、捆铺草；三、说话和气；四、买卖公平；五、借东西要还；六、损坏东西要赔。
工农革命军进占遂川，极大地鼓舞了农民准备举行第四次攻城的武装起义。在革命力量的攻势面前，县城守军弃城而逃，万安农军遂占领县城。
虽然革命处于低潮和白色恐怖之中，这支弱小的革命力量却在毛泽东的领导下，顽强地生长着。
1月上旬，毛泽东在遂川城主持召开了前委与遂川、万安两县委的联席会议，制定了割据赣西南的计划。毛泽东在会上总结了秋收起义以来工农革命军的作战经验，提出了“敌来我下，敌驻我扰，敌退我追”的游击作战原则。
为了更好地完善人民军队的纪律，毛泽东还在茨坪召开了征集意见座谈会。粟裕、赵尔陆、张际春、赖传珠、唐天际等连以上党代表参加了座谈会。到会同志认为，毛泽东制定的“三大纪律六项注意”符合老百姓的要求，也符合我们部队的实际情况。于是，毛泽东根据部队在实际中遇到的问题，又在六项注意中增加了“洗澡避女人”和“不搜俘虏腰包”这两项。此后，三大纪律八项注意的内容在不同时期略有变动，但其基本精神一直为这支人民军队所遵循，成为毛泽东建军原则的重要内容。
