学成归国之后，父亲曾试图将他引荐给相熟的冯玉祥，被他拒绝。他决心凭自己能力，从基层做起。
当时的国民政府军队系统里，黄埔系如日中天，保定军校派、各军阀也都自成一派。孙立人属于少数的留美派，加上一副耿直而不愿依附于人的脾气，他始终没能找到合适的去处。
直到加入财政部税警总团，孙立人才有了安身立命的基础。税警总团是当时中国军队中的一朵奇葩，直属于财政部。
当时财政部长宋子文虽然与蒋介石是姻亲，却始终保持着自己的独立见解，对蒋介石的种种做法心存不满，
税警总团某种意义上成了宋子文的私人军队。
孙立人在侍卫总队结识了宋子文，后经人介绍来到了税警总团特科兵团担任团长。
宋子文校阅税警总团发现孙立人的部队表现优异，遂转为第四团，孙立人担任团长。
1937年8月13日，淞沪会战打响。孙立人率税警4团进驻苏州河南岸，因表现出色，被任命为少将第二支队司令兼四团团长。
在上海的战斗中，孙立人亲临一线，身中13枚弹片，头部腹部均受伤，肺部被打穿，
一些弹片日后都没法取出，部下拼死将他抬下火线。
抗战水深火热之际，国民党政府军队中各派系相互倾轧的情况依然不变，这个现实一再打击着孙立人。
负伤送往医院后，税警总团长黄杰将军派副官送去500元，并告之孙立人部队已经撤退，
撤往何处却不告诉孙立人。此时上海已经不保，一直欣赏孙立人的宋子文伸出了援手，他派弟弟宋子安接孙立人远赴香港治疗。
孙立人在香港不待痊愈即赶赴长沙，他没有想到，税警总团余部已被胡宗南“吃掉”，改编成44师。黄杰和胡宗南是黄埔一期的同学，凭借胡宗南的势力，黄杰当上了军长，孙立人被安上了“高参”的虚职。
