彩绘玻璃的繁荣与大批教堂的出现密切相关，主要盛行于罗马式和哥特式建筑。罗马式和哥特式建筑的窗户比较高大，布满整个建筑立面，便于采光。传统壁画中的玻璃镶嵌技法，在这两种建筑结构的教堂中难以运用，因而逐渐退出历史舞台，彩绘玻璃由此兴起。
古代埃及和罗马人都擅长制造小型的彩色玻璃制品。古代腓尼基在玻璃制造业中也占有重要地位，其中心产地是西顿和安条克等地。在公元4-5世纪的早期基督教教堂中，一些木质窗框中镶嵌有经雕琢过的雪花石膏，类似玻璃般的效果。公元7世纪，英国的教堂和修道院已经出现了彩绘玻璃窗。公元675年，圣本笃·波斯哥［］从法国引进工匠，为在芒克威尔茅斯建造的圣彼得修道院窗户进行着色。公元8世纪以后，伊斯兰世界的一些清真寺和公共空间也开始以彩色玻璃装饰，基本以纯粹的几何设计为主，包含花卉和文字图案，不表现人物形象和宗教偶像。
彩绘玻璃作为一种创意十足的艺术形式，最初的形成是依靠建筑结构系统的演变，哥特式教堂的肋梁，减轻了拱顶的重量，协调各构件之间的关系，将教堂重量转移到外部地基上，从而摆脱了厚重的墙体，减轻了建筑的负担，所有这些因素都使得大面积窗户得以实现
纵观古代历史，彩色玻璃艺术传统上是以圣经意象为特色，并被用于教堂、清真寺和其他宗教建筑的窗户上，今天现代玻璃艺术作品不仅在礼拜场所，而且在当代家庭、商业空间和艺术画廊也被看到