崔可夫于1927年圆满地完成了在东方系的学习任务，奉命再次前往战火纷飞的中国，担任军事顾问。
崔可夫是在1926年作为一名实习生，以外交随员的身份，跟随老布尔什维克罗日科首次来到中国的。首次中国之旅，使年轻的崔可夫增长了不少书本上学不到的知识，对中国的了解更接近于实际。
这次他再次踏上中国的国土，没有了初次来中国的那种新奇和恐惧，有的却是更加塌实的工作作风。他利用一切机会到中国各地去考察，这时期的崔可夫，不仅更多地掌握了中国的情况，而且已经能够讲一口流利的中国话了。
就在崔可夫卓有成效地在中国开展着外交工作的时候，爆发了中东铁路事件两国在边界发生了严重冲突。
1929年7月13日，苏联外交当局强烈抗议，宣布同中国断交，召回驻华人员。这样崔可夫奉命取道日本返回了苏联，结束了他二下中国的外交生涯。
30年代苏军战斗力有了突飞猛进的提高，大规模地进行技术装备改造，组建了装甲和机械化部队，发展壮大了空军和炮兵等兵种。为了培养大批适应新形势需要的高级军事指挥人才，1936年苏军选送了大量学有专长的年轻指挥人员，进入工农红军机械化、摩托化学院速成班进修，崔可夫以具有颇深军事功底的“军中才子”身份被选入校。