清朝时，以西黄城根南街为界，东段因原“灵济宫”逐渐变读为灵清宫、林清宫（传说和嘉庆年间攻打皇宫的反民林清有关），因此被称为林清胡同，西段则称为细米胡同。
1911年后，进入民国时期，东段改称为黄城根，西段则称为灵境胡同。1949年后，两段并称为灵境胡同。
1985年，市政府开始对灵境胡同进行改造，胡同西段的民宅拆除，建起6层的居民楼。到1988年，已有新居民楼13座，胡同被拓宽成了一条小马路。
1992年前后，灵境胡同再次扩宽。目前最宽处32.18米。
灵境胡同灵济宫
西城区的府佑街里有个站牌子，标有“灵境胡同”的站名，东西相对应的西单北大街上也有一站，曾叫过“灵境胡同”，由此可知灵境胡同是条贯穿东西的长胡同。
这条胡同名称源于一座道观，观名洪恩灵济宫。灵济宫地势宽敞，殿堂宏伟壮观，始建于明朝永乐十五年（公元1417年）三月，是为祭祀南唐人徐知证和徐知谬兄弟俩的。传说这哥俩有着神奇的本领，好助人为乐，替人排优解难。还是在明成祖朱棣北征扫荡元军时，作战不利，于是就请这两位神仙暗中助阵，果然取得胜利。
明成祖夺取了皇位，迁都北京，有一回生了病，梦中又是进两位神仙送来了神丹妙药。皇帝吃下后，立时就痊愈了。成祖很高兴，下旨在西苑外救建灵济宫，来祭祀这两位治病救命的神仙。还给他们封了号，一位为玉朗真人，一位为金胭真人，并将他们的夫人封为仙妃。到了第二年，也就是明永乐十六年，两位神仙又升了级，由真人改封了真君，和三只眼睛的二郎神平级了。到了明成化二十二年（公元1486年）两位真君的名号又大大地提了一步，明宪宗朱见深把他们封为上帝了。
这座与紫禁城比邻的灵济宫深受皇帝的垂青，每年元旦新春、冬至和两位上帝诞辰日的那天，朝廷都要派遣太常寺的官员前往灵济宫行礼。
两位上帝不但治好过皇帝的病，还治好过大臣的病。明万历二十二年（公元1594年），大学士王锡爵身患沉病，明神宗朱翎钧很为臣子优虑，便拨出五十两白银，命令道官王昭忻到灵济宫为这位大学士做法事。在这两位神仙的暗中调理下，王锡爵的病真的好转了。
灵济宫在明代不仅是一座颇受重视的皇家道观，还是百官集体活动的一个重要场所。每逢隆重大朝会之前，全体官员都要被集中到这里排演礼仪。直到明宣宗的宣德年间，这种演礼才被移到朝天宫。灵济宫还是大学士、尚书们讲学的地方，盛时，听讲者达千人。
灵济宫也是招待道教领袖的宾馆。明崇祯十四年（公元1641年），正一派真人天师张应京被皇帝朱由检召至京师，就在这里赐宴款待的。
到了清代，灵济宫不那么红火了。灵济宫的名称，在人们的口传中，以讹传讹，把“灵济”变成了“灵清”，后来又转成了“灵境”。道观所在之地也就成了“灵境胡同”。
现代的灵境胡同宽阔笔直，西头连接着繁华喧闹的西单北大街，东头连接着肃穆庄严的府佑街，小汽车往来奔驰，成为东西向的通忂。
