1927年楊的主動示好被視作“小軍閥”自保，“投機的成分很多”
1927年，蔣介石開始“清黨”反共之時，楊虎城作為馮玉祥部隊中的“小軍閥”，其本人還是比較同情中共的，甚至在反共聲勢高漲的情況下也并沒有跟隨蔣介石“清黨”。據1927 年冬中共河南省委向中共中央報告關于太和楊虎城軍現狀時說：“楊本人近來因環境所迫，非常同情我黨，并要求加入我黨，要求我們多派人到他的部隊中去，無論政治工作人員和軍事工作人員都歡迎。”
然而，由于中共在“清黨”中受到了嚴重打擊，因而對所有的軍閥都持完全不信任的態度，對楊也不例外。1927年11月22日，中共河南省委明確認定楊虎城“主觀上認識革命的理論，堅決地實行加入工農的隊伍而革命的成分是很少的。楊軍官佐少數革命和反革命外，大多數都是渾渾噩噩。楊軍系款項和民團湊合而成，內部非常復雜，各自成一系，每一小部分中地域觀念很盛”。
1928年3月25日，中共中央給皖北特委的指示信更是明確稱楊為“小軍閥”，指出“皖北現在高（桂滋）、楊（虎城）、方（振武）、柏（文蔚）一班小軍閥雜色軍隊統治之下，他們利益沖突，是明爭暗斗的”。