罗马俱乐部成立于1927年6月7日，建立的初衷是为对抗意大利北方的足球势力。当时的罗马城存在多家足球俱乐部，实力非常分散。人们希望通过联合，将罗马城内足球俱乐部的力量集中起来。合并的想法最初是由福斯奇（Italo Foschi）提出，并得到了福蒂都多俱乐部管理层的认可。他们认为，要将联赛冠军带到罗马城，首先应该建立一支强大的球队。1927年7月27日，罗马俱乐部正式宣告成立。它由阿尔巴队（Alba）、福蒂都多队（Fortitudo）和罗马人队（Roman）合并而成。成立后的罗马俱乐部决定，以罗马人队代表罗马城的红黄两色作为球队的颜色，福斯奇担任俱乐部主席的职务。但同处于罗马城、以大区命名的拉齐奥队（Lazio）拒绝合并的要求，这也是罗马双雄结怨的开始。

初露锋芒

 成立初俱乐部比赛安排于Motovelodromo Appio进行，1927年6月17日举行俱乐部第一场比赛，2比1击败来自匈牙利的UTE。接着罗马队报名参加意甲联赛，最终以第八名完成联赛，这对于一支新成立的球队来说已经是表现不俗了。而在球队刚刚成立的1927-28赛季，罗马就击败对手摩德纳，获得了俱乐部历史上的第一个冠军奖杯——科尼杯（Coppa Coni，意大利杯的前身）。罗马队从1929年起，连续七个赛季保持在前六名，其中1930/31赛季和1935/36赛季两夺亚军。当时球队的代表人物是费拉里斯（Attilio Ferraris），罗马博尔格街区出生的土生土长的罗马人。1928年1月1日，费拉里斯入选了意大利国家队；当时人们就相信，他必定成为一位世界级的冠军球员。1928-1929赛季，罗马足球历史上又一名传奇人物加盟，他就是福尔维奥·贝纳尔迪尼（Fulvio Bernardini，罗马俱乐部现在的训练中心就是以贝纳尔迪尼的名字命名），在罗马效力达11个赛季。在球队发展的初期阶段，这支骄傲的罗马队以特斯塔乔（Testaccio）球场作为主场。特斯塔乔球场由现任主席弗兰科·森西的父亲西尔维奥·森西（Silvio Senses）负责建设；1929到1940年，罗马一直在这个满载着荣耀的球场中踢球。在特斯塔乔球场落成后的一个月，罗马迎来了俱乐部史上又一重要事件：第一场对拉齐奥的罗马德比。比赛是在拉齐奥当时的主场罗迪内拉（Rondinella）举行的。那一天，球场内90％的人群是挥舞着罗马旗帜的罗马球迷。向来以狂热和热情著称的罗马球迷也没有失望，沃尔克（Volk）打进本场比赛唯一的进球，帮助罗马取得了第一场德比战的胜利。1930年初，在特斯塔乔一场的重量级对抗中，罗马队取得了辉煌的胜利——夺得过五次联赛冠军的尤文图斯，在这里以5：0的大比分耻辱地输给了罗马。

一举夺魁

 在经过前十多年成绩还算理想的赛季后，罗马终于迎来了第一个重要奖杯——意甲冠军。由于联赛收关阶段的出色表现，由匈牙利人斯卡弗（Schaffer）率领的罗马队毫无悬念地获得了1942年的联赛冠军。它也是意大利联赛历史上第一次由南方球队夺得的全国联赛的冠军。这是一支成熟的罗马队：由一流守门员马塞蒂（Masetti）领衔的整体稳健、个人能力突出的后防线，快速和善于发动反击的中场，以及最重要的球星——赛季中打进18粒进球的射手阿德奥·阿马德伊（Amedeo Amadei），同时，在这个赛季，阿马德伊还将自己的进球数跨越了100大关。此外还有罗马人弗拉斯卡蒂（Frascati）：作为在罗马成长起来的前锋，弗拉斯卡蒂成名于亚特兰大；回到罗马后他被斯卡弗教练当作中锋使用。

战后沉浮

 战争给罗马带来了极大的伤害，许多球员甚至没有能再回到场上。应该说与其他俱乐部相比，罗马更多地受到了战争的影响，战后的罗马面临着财政的困难和球员的匮乏，几个赛季一直在联赛中下游徘徊。1950-51赛季罗马达到了低谷，球队降到了乙级联赛。然而罗马球迷并没有放弃球队，之后的一个赛季，罗马成为了所有意大利职业俱乐部中门票销售第二好的球队（仅次于AC米兰）。罗马队也在吉波·维亚尼(Gipo Viani)的率领下重返甲级。此后几年间，罗马的成绩一直位列中上游，并在1954-55赛季获得了联赛亚军。而1951年的降级也是罗马历史上唯一一次沦落二级联赛的经历。

积蓄实力

 60年代初，欧洲赛场让罗马人重新找回了激情。1960-61赛季罗马队进入了费耶雷杯（Coppa delle Fiere，欧洲联盟杯的前身）决赛，罗马的对手是英格兰的伯明翰队。在首回合客场的比赛中，罗马首先凭借曼弗雷迪尼的梅开两度取得2：0的领先。此时的罗马似乎嗅到了胜利的味道，但随后伯明翰队的赫拉维尔（Hellawell）和奥里特（Orritt）的两个进球将比分追平。回到奥林匹克球场后，罗马再没让对手制造什么麻烦。上半场罗马就奠定了胜局，法玛尔（Farmer）的乌龙球和佩特林（Petrin）的进球让罗马在半场结束前就以两球领先。伟大的射手曼弗雷迪尼在这个赛季的费耶雷杯中总计打进了12个进球。

    60年代的罗马带给罗马球迷许多快乐和满足。两个意大利杯（1964年和1968年意大利杯），主要的球员有罗贾科诺（Lojacono）、斯切亚菲诺（Schiaffino）、安格里洛（Angelillo）、罗西（Losi）、“啄木鸟”美誉的德斯蒂（De Sisti）以及后来对罗马意义深重的法比奥·卡佩罗。罗马城，仅仅等待着下一个联赛冠军。