Вечнозеленото иглолистно дърво традиционно се използва в чествания на зимни фестивали (езически и християнски) в продължение на хиляди години. Езичниците използвали клончета, за да украсяват домовете си по време на зимното слънцестоене, като символ на живота, в това време на тъмнина и смърт. Римляните използвали иглолистното дърво, за да украсяват своите храмове по време на фестивала на Сатурн, а християните го използват като знак за вечния Божи живот.
Никой не е съвсем сигурен кога елхите са били използвани за първи път като коледни дръвчета. Това най-вероятно става някъде в Северна Европа.
Първата документирана употреба на дърво в коледни и новогодишни празненства, е на градския площад в Рига (столицата на Латвия) през 1510 година. На площада има табелка, гравирана с думите „Първото новогодишно дърво в Рига през 1510“, написана на осем езика.
Първият човек занесъл в дома си коледно дърво, по начина който ние познаваме, най-вероятно е бил немски проповедник от 16-и век – Мартин Лутер. Легендата разказва, че една нощ преди Коледа той се разхождал из гората и се огледал, за да види звездите, блестящи между клоните на дърветата. Той се прибрал вкъщи и казал на децата си, че гледката била толкова красива, че му напомняло на Иисус, който напуска звездите на небето, за да дойде на земята при хората.
В Германия първите коледни дръвчета са били украсявани с ядливи неща и покрити със злато ябълки. Тогава майсторите на стъкло създали специални малки орнаменти, подобни на някои от декорациите, използвани днес. Първоначално на върха на дървото била поставяна фигурка на младенеца Иисус, но с течение на времето тя се променя в ангел, фея или звезда (символизираща витлеемската звезда).
Първото коледно дърво идва във Великобритания някъде около 1830 година. То става много популярно през 1841 година, когато принц Албърт (немският съпруг на кралица Виктория) поставя коледно дърво в замъка Уиндзор. Във викториански времена дървото е украсявано със свещи, изобразяващи звездите.
Поради опасност от пожари през 1895 година Ралф Морис, американски телефонист, изобретил първите електрически коледни светлини.
Изкуствените коледни елхи започват да стават популярни в началото на 20 век. През годините изкуствените дървета са направени от пера, папие маше, метал, стъкло, както и много различни видове пластмаса.
