虽然第二次世界大战在1945年结束，但盟军对其前纳粹党员的身份要进行调查，再加上富特文格勒的阻挠，卡拉扬的半退休状态似还没有尽头。他被禁止在德国和奥地利演出。不过有一次例外：1946年1月12日卡拉扬在维也纳爱乐之友协会与维也纳爱乐乐团合作。本来他还被邀请去指挥莫扎特的费加罗的婚礼和理查·施特劳斯的《玫瑰骑士》（Der Rosenkavalier，又译：蔷薇骑士），但演出就在最后一刻在苏联方面的坚持下被迫取消。这段时间可谓是卡拉扬最灰暗的日子。在占领区受审期间，他曾被亨利·阿特（Henry Alter）要求在四周内禁止离开维也纳。但卡拉扬说道，自己在这未来四周没东西吃。最后阿特给他送去五公斤土豆以助其度日。后来两人在芝加哥再次相遇，一起共进午餐，当阿特要埋单时，卡拉扬将帐单接过，说道：“这次是我的。您那时可是给我送去了五公斤土豆啊^[25]。”

幸好此时卡拉扬得到了两个人的帮助，走出了困境，成功复出。一位是华尔特·李格（Walter Legge），当时英国EMI公司的古典音乐唱片制作人。另一位则是卡拉扬的导师和好友，指挥家维克多·德·萨巴塔（Victor De Sabata）。李格是因为偶然听了卡拉扬战时录音：约翰·施特劳斯的《蝙蝠》序曲，暗暗奇之，遂决定让卡拉扬与EMI签约并尽力为其录音活动去取得官方许可。他奔走游说，成功地令有关当局放宽了对卡拉扬的演出限制。而萨巴塔则是意大利元老级指挥之一，他早在1939年就预言似地评价过卡拉扬：

1947年10到12月，卡拉扬与维也纳爱乐乐团合作为EMI录制了贝多芬《第八交响曲》和《第九交响曲》（后者的合唱部分由维也纳歌唱协会合唱团 （Wiener Singverein）担任，该合唱团于当年10月第一次与卡拉扬合作），还有舒伯特的《第九交响曲》和布拉姆斯的《德意志安魂曲》（Das deutsche Requiem）。

非纳粹化后的卡拉扬，很快就成为了欧洲音乐生活的中坚力量之一。1948年行程紧密。卡拉扬不但开始了与卢塞恩国际音乐节的合作（两者的合作关系持续到1988年，1960年除外），还参加了当年的萨尔茨堡音乐节，包括格鲁克的奥菲欧与埃雨迪克，莫扎特的费加洛婚礼，还有两场音乐会，曲目分别是海顿，理查·施特劳斯，贝多芬和勃拉姆斯的作品。而任职方面，他一方面接受了维也纳歌唱协会终身艺术指导和维也纳交响乐团（Wiener Symphoniker）首席指挥两职，并将它们训练成一流的音乐团体。而另一方面在伦敦，他则与由李格组队的愛樂管弦樂團（the Philharmonia）紧密合作，并在接下的几年陆续制作了一系列名盘，如和钢琴家李帕蒂合作录制舒曼的钢琴协奏曲，和圆号手丹尼斯·布莱恩（Dennis Brain）录制了莫扎特的圆号协奏曲，和李格的夫人伊丽莎白·施瓦兹科普夫录制的一系列歌剧：《蝙蝠》，《法斯塔夫》，《汉塞尔与格蕾太尔》，《阿里阿德涅在纳克索斯》和《玫瑰骑士》，还有他自己的第一套贝多芬交响曲全集。1952年，他带领了这支乐队做了第一次欧洲大陆之行^[27]。

而从1949年起，卡拉扬开始经常与米兰斯卡拉歌剧院合作，并成为其德国演出季的指导。卡拉扬对歌剧制作细致入微，排练数以月计。所以在那里他虽然每年只将一到两部歌剧搬上舞台，但却是部部精彩。值得一提的是，卡拉扬在此曾与有着“歌剧女神”之称的玛丽亚·卡拉斯^[28]数度合作，如1954年有名的《拉美摩尔的路契亚》（Lucia di Lammermoor），并且为EMI留下了诸如《游唱诗人》，《蝴蝶夫人》等歌剧的录音。

1949年，卡拉扬再度在萨尔茨堡音乐节上指挥维也纳爱乐乐团和维也纳音乐之友协会歌唱协会合唱团演奏威尔第和贝多芬的作品。不单是他故乡的音乐节，就是拜鲁伊特也向卡拉扬招手。1951年这个几度风霜的華格纳音乐节战后重开。该年的音乐节是一次名副其实的盛事。華格纳的两位孙子维兰·華格纳和沃尔夫冈·華格纳首次上任制作。各地有名的華格纳歌手齐集一堂。卡纳匹兹布什为观众展现了他对華格纳作品诠释的独特魅力—《帕西法尔》。而富特文格勒也到场指挥了一次令后世难忘的贝多芬《第九交响曲》。而卡拉扬作为后辈，则在7月27日的音乐节开幕当晚指挥了《纽伦堡的名歌手》全剧，以及和卡纳匹兹布什携手指挥了《戒指》。次年，卡拉扬再度登台拜鲁依特，指挥了《崔斯坦与伊索德》。这两次登台，皆有录音，而且深得好评。其中《纽伦堡的名歌手》和《特里斯坦与伊索尔德》的演绎甚至被奉为卡拉扬所有诠释之最佳^[29][30]。但是就在这两次成功的演出之后，卡拉扬就再也没有重登拜鲁伊特的舞台。