1927年杨的主动示好被视作“小军阀”自保，“投机的成分很多”
1927年，蒋介石开始“清党”反共之时，杨虎城作为冯玉祥部队中的“小军阀”，其本人还是比较同情中共的，甚至在反共声势高涨的情况下也并没有跟随蒋介石“清党”。据1927 年冬中共河南省委向中共中央报告关于太和杨虎城军现状时说：“杨本人近来因环境所迫，非常同情我党，并要求加入我党，要求我们多派人到他的部队中去，无论政治工作人员和军事工作人员都欢迎。”
然而，由于中共在“清党”中受到了严重打击，因而对所有的军阀都持完全不信任的态度，对杨也不例外。1927年11月22日，中共河南省委明确认定杨虎城“主观上认识革命的理论，坚决地实行加入工农的队伍而革命的成分是很少的。杨军官佐少数革命和反革命外，大多数都是浑浑噩噩。杨军系款项和民团凑合而成，内部非常复杂，各自成一系，每一小部分中地域观念很盛”。
1928年3月25日，中共中央给皖北特委的指示信更是明确称杨为“小军阀”，指出“皖北现在高（桂滋）、杨（虎城）、方（振武）、柏（文蔚）一班小军阀杂色军队统治之下，他们利益冲突，是明争暗斗的”。