中世纪的奥地利来自于巴伐利亚东边区，也就是ostmark，拉丁文“Marchia orientalis”，直面翻译就是东方边区。后面就逐渐演变成Ostarrîchi和Österreich，也就是东方地区，最后变成拉丁文就成了Austria。
奥地利这个概念原先的范围并不大，仅仅包含今天的奥地利共和国的上下奥地利州，见下图
目前的上下奥地利州以多瑙河的支流恩斯河为界，一般被称为恩斯河上的奥地利和恩斯河下的奥地利。这也就是现代意义上的上下奥地利。
闲话少说，回到中世纪。1156年，东边区的藩候也就是奥地利藩候被升级成了奥地利公爵。1246年，巴本堡家族的奥地利公爵绝嗣。地盘由亲戚波西米亚国王奥托卡二世获得。同时奥托卡二世利用大空位时期同时获取了斯蒂利亚公国，卡林西亚公国和卡尔尼奥拉侯国。斯蒂利亚公国就是上述奥地利地图上的施泰尔马克州，也是由侯国升级的公国。卡林西亚就是上图克恩滕州的拉丁语说法。而卡尔尼奥拉边区就是图上在国境之外的斯洛文尼亚了。
话说来自瑞士的大地主哈布斯堡伯爵鲁道夫一世上台之后，奥托卡二世的好日子到头了。通过两次战争，1278年奥托卡二世被阵斩，其子文策尔缩回波西米亚。因此奥地利、斯蒂利亚、卡林西亚和卡尔尼奥拉就成了鲁道夫一世的战利品。但是全吃吃相太难看，于是最南边的卡林西亚和卡尔尼奥拉就给了盟友，蒂罗尔的迈因哈德。鲁道夫本身保留了斯蒂利亚和奥地利本身。不过到了1335年，哈布斯堡家族熬到盟友绝嗣，还是把四个公国都收入囊中。1364年又取得了盟友的蒂罗尔。于是现在奥地利的版图中除了福拉尔贝格、萨尔茨堡和布尔根兰都进入了哈布斯堡家族怀抱。补充一句，福拉尔贝格在1525年由哈布斯堡家族获得，布尔根兰原属于匈牙利，在一战后的公投中加入了奥地利，大概是因为德语人口较多吧。而萨尔茨堡则大部分时间是独立主教区，在拿破仑战争中没收教产而进入了奥地利的怀抱。
转入正题，在14世纪，哈布斯堡家族获得了原施瓦本公国大片领地，稍微大套点的就是莱茵河两边的阿尔萨斯和布赖斯高以及无数插花地。当然也随着瑞士联邦的崛起而失去了瑞士领地。彼时，逐渐哈布斯堡家族的领地就全都称为奥地利了。因为哈布斯堡家族的地产通常分为三块，由三个支系分别统治，因此按照位置哈布斯堡家族的地产就分别被称为上奥地利、下奥地利和内奥地利。怎么区分呢，老的奥地利公国被称为下奥地利，因为位于多瑙河下游。位于施瓦本公国的零散领地和蒂罗尔合起来被称为上奥地利。而下奥地利以南的斯蒂利亚、卡林西亚和卡尔尼奥拉则被称为内奥地利。同时蒂罗尔以西的上奥地利又被称为远奥地利，大概是因为这批施瓦本领地距离奥地利比较远吧，也被称为前奥地利，因为位于阿尔卑斯山前。
到了近代，上下奥地利才逐渐变为恩斯河上下的奥地利，也就是奥地利公国本部。