高士廉到了岭南后，隋朝天下大乱，皇帝的命令根本传达不到岭南这种偏僻地方。当时交趾太守丘和欣赏高士廉的的才能，便将他安排在身边处理司法文书。从此，高士廉就一直跟随丘和，直到武德四年。

丘和是何许人？高士廉为什么会跟随他那么长时间？

原来，丘和也是个不简单的人物。

丘和出身武将家庭，父亲是西魏的镇东将军。受家庭环境的影响，丘和小时候就练习弓箭骑马，讲义气，重感情，有古时的游侠气概。丘和的仕途起点在北周。隋朝建立后，他被授任右武卫将军，封爵平城郡公。但是在仁寿四年（公元604年），汉王杨谅起兵造反。当时丘和是蒲州刺史。丘和治下的蒲州被杨谅夺取，丘和因抵抗不力被罢免为民。

虽然在仕途上遭遇了挫折，但是丘和一点儿也不消极。他给自己找了一棵大树。当时宇文述正受宠信，丘和便千方百计依附于他。几经推荐，又被复职，担任代州刺史。

隋炀帝北巡，经过丘和治下的代州，丘和为了取悦皇帝欢心，大肆铺张，史书上说他“献食甚精”，各种山珍海味都给弄来了。炀帝很高兴。他随后巡守到朔州，刺史杨廓没有像丘和那样大肆铺张，只是中规中矩的接待，炀帝很不高兴。宇文述借机替丘和美言，丘和在皇帝心中留下了不错的印象。于是，隋炀帝所到之处，地方官都竞相攀比，一处比一处更奢华。

大业末年，隋炀帝觉得丘和能力不错，便派遣他到当时民变较多的交趾任太守。丘和到任后，宽厚待民，打击豪强，“深得蛮夷之心”。

高士廉便是在这个时候遇上了丘和。

当时，隋朝已经处于风雨飘摇之中，各地武装纷纷崛起，为了争夺地盘，互相蚕食。618年4月，隋炀帝在江都被杀，隋朝宣告灭亡。但是，当时丘和和高士廉都不知道这个消息，高士廉也不知道李渊父子已经起兵。他们依旧认为还是隋炀帝的天下。丘和在高士廉的辅佐下，击退了一些前来兼并他们的割据势力。在这个过程中，隋朝灭亡的消息逐渐传开，当消息传到丘和和高士廉耳中的时候，他们都很沮丧。于是，丘和决定归附当时势力较大的萧铣。

唐武德四年（621年），丘和带领高士廉前往江陵（今湖北荆州）朝见萧铣，但是中途听到了萧铣被李孝恭击败的消息，二人便放弃投萧铣的打算，转而投奔李孝恭。一年后，高士廉和丘和正式朝见唐高祖李渊，李渊见到丘和和高士廉非常高兴，对他们礼遇尤佳。丘和年事已高，因稷州是他的故乡，高祖特地受稷州刺史，以方便其颐养天年。丘和很长寿，一直活到贞观十一年(637年)才去世，享年八十六岁。当时李世民正担任雍州牧，因高士廉是他妻子的舅舅，而且素有声望，爱才的李世民便将高士廉召到雍州，从此便长期跟随李世民，成为李世民集团中的重要一员。

李世民四处征战，高士廉作为重要参谋紧随其身。在玄武之变中，他配合长孙无忌、侯君集等人成功镇压了李建成、李元吉兄弟的队伍，确保政变成功。李世民被立为太子后，便任命高士廉为太子右庶子。