1929年4月，中央决定派潘心元到苏联学习。潘心元离开湘鄂赣苏维埃根据地，踏上赴苏之路。他从长沙到达武汉时，发生了“中东路事件”，中苏边界交通随之被封锁。

潘心元得知消息后，从武汉乘坐轮船来到上海，找到了中共中央。他向中央汇报了自“马日事变”以来湘赣边界特别是湘东各县党组织的工作情况。中央领导听后，要求他作一书面报告。于是，潘心元于7月撰写了两万余字的《湘东各县工作报告》。这份报告现收藏在中央档案馆，成为一份珍贵的历史文献。

9月中旬，中共中央秘书长李立三和中央军委领导人周恩来决定派潘心元作为中央巡视员，赴湘赣边界巡视并指导湘赣边特委工作。

10月，潘心元化名彭西原前往江西巡视。他找到江西省委后，传达了中央指示，然后，他化名彭清泉由江西省委派交通员陪同，赴井冈山与中共湘赣边特委联系，了解情况，指导工作。潘心元在湘赣边界特委管辖的永新、莲花、宁冈、陵县等地巡视指导。12月，彭德怀率领红五军在萍乡、莲花、茶陵一带游击。在特委交通员的护送下，潘心元来到红五军军部，在军部住了六七天，和彭德怀进行了多次谈话。彭德怀在《彭德怀自述》中详细记述了和潘心元的谈话经过。彭德怀这样写道：

“中央巡视员潘心元来到红五军军部，住约一星期。我们将黄公略成立红六军的情况告诉了他。潘说，成立后应归红五军指挥。”

“我和潘心元谈过多次，上述只是第一次。以后，我和潘心元谈到平江起义后，这一年多来，斗争最艰苦、最激烈，得到的经验教训也不少。主要是武装斗争方面：没有根据地，武装斗争就不能持久；没有武装斗争，也建立不起根据地。湘赣边和湘鄂赣边区的建立，就是这一经验的证明。武装斗争要有分工，即要有主力红军和地方游击队、赤卫队。”

“又一次我和潘谈：我们还不大会做群众工作，只是做了一些宣传工作。至于如何在农村中建党、建政、分田，还未入门呢。今年局势要是稍微缓和一点，我们要抓紧学做群众工作，特别是分田。他也谈了一些时局问题：蒋桂战争终究会妥协，蒋冯阎虽有矛盾，不一定会爆发战争。他说要回上海去，其他地方不去了。我问他从哪条路走，他说，想回浏阳老家一趟，然后走鄂东南回上海。”

从《彭德怀自述》中可以看出，潘心元和彭德怀多次促膝谈心，而且话题广泛，聊得非常投缘，使彭德怀多年难忘。

在潘心元的指导下，1930年1月18日至21日，中共湘赣边特委、赣西特委、红五军军委在遂川县于田召开联席会议（史称于田会议）。潘心元在会上传达了中央通告文件的精神，着重强调了武装斗争在中国革命中的重要地位和发展正规红军的重要性。会议决定将湘赣边特委合并于赣西特委，并决定召开赣西工农兵代表大会，成立赣西苏维埃政府。同时，会议决定将江西工农红军独立第二、三、四、五团及各县游击队改编为中国工农红军第六军。抽调红五军部分干部到红六军，以充实红六军军事指挥员。红五军、红六军分别从赣江东西两侧向吉安逼进，准备攻打吉安县城。

赣西革命形势的发展，引起了在福建古田的红四军的注意。毛泽东指挥红四军挥师入赣与红五军、红六军会合。1930年2月，毛泽东、朱德率红四军到达江西吉安。毛泽东和潘心元作了长时间的交谈后，决定于2月6日到9日在吉安陂头召开红四、五、六军和赣西、赣南、湘赣边特委联席会议（史称二七会议）。毛泽东主持会议。会议讨论了扩大苏维埃区域、深入土地革命、扩大工农武装等重大问题。决定将中央指定的红四军前委扩大为红四、五、六军总前委，兼任赣西、赣南、闽西、东江、湘赣边等地区革命斗争的指导机关。毛泽东任总前委书记，朱德、曾山、刘士奇、潘心元为总前委常委，彭德怀、黄公略为候补常委。潘心元任红四军军委书记兼政治委员。

1930年3月，潘心元先后来到红五军、红六军军部巡视并指导工作。巡视期间，红六军按照中央军事部的决定，改称红三军，由黄公略任军长，潘心元任代政委。5月，红三军在黄公略、潘心元指挥下攻打吉安，失利后转而趁机攻克修水县城。5月中下旬，又连续攻克安源、万载县城。6月7日，再而攻克浏阳县城。红军部队在湘鄂赣边开展游击战争，建立根据地。6月26日，中央组建中国革命军事委员会，毛泽东任军事委员会主席，潘心元任委员。同时，毛泽东调潘心元再任红四军政委。

1930年6月，根据中共中央军委命令，湘鄂赣的红五军和红八军合编成红三军团，总指挥长彭德怀、政治委员滕代远(后杨尚昆代)、总参谋长邓萍、政治部主任袁国平，全军一万余人。赣南、闽西地区的红三军、红四军、红十二军合编成第一军团。朱德任总指挥，毛泽东为政委，朱云卿任参谋长，杨岳彬任政治部主任，全军一万七千人。7月下旬，彭德怀指挥红三军团发动了攻打长沙的战斗。毛泽东、朱德率领的红一军团也从福建汀州出发，赶来增援。中国工农红军声威大振。

就在此时，潘心元接到中央指示，要他回上海向中央汇报。潘心元离开红军部队，乔装打扮秘密潜往上海。

1930年8月，巡视湘鄂赣地区后的潘心元来到上海，向中央呈报了《巡视湘鄂赣三省红军后之报告》。李立三和周恩来根据潘心元的革命经历，当即决定派潘心元作为中央巡视员前往浙南巡视党务和军事工作。

接到新的任务后，潘心元意识到，此去浙南，人生地不熟，充满危险。出发之前，他写信给妻子：“吾有随时牺牲的可能，望汝对侠仙、侠游、侠仁吾儿，万勿使其失学，务必教其以吾志为志。”他已做好了为革命献身的准备，并希望儿女继承父业，革命到底。

此一去，前路充满艰辛。