古时候，人们认为世间万物皆有神灵，只有得到神灵眷顾人类才能繁衍生息。“香”与“祥”相近，而且焚烧时，香可以发散出芬芳气味，形成冉冉上升的烟雾，人们通过香气和烟雾可以把自己的夙愿传达给天地鬼神，所以心怀敬畏，燃香祭拜就成了人们对神灵最高礼遇。
《尚书舜典》中曾记载大舜受禅让以后，在泰山上焚香祭拜的事件。由此可见以香的奉神明，在六千多年前就已形成
除了祭祀神明，人们还把香应用到了日常生活当中。《礼记》中：“男女未冠笄者，鸡初鸣，咸盥漱，拂髦总角，衿缨皆佩容臭。”（先秦时少年拜见长辈先要漱口、洗手，整理发髻和衣襟，还要系挂香囊，避免身上的气味冒犯长辈。）”从士大夫到普通百姓，无论男女，都要随身佩戴香物。
等到六朝及唐代时，上层社会熏衣、熏被褥已成习俗。不仅女人的衣裙要熏香，士大夫的衣袍也要过这么一道手续。唐朝皇帝每年腊日（腊月初八）都会赏赐大臣美容化妆品，有时也要赏衣香。白居易的《早夏晓兴赠梦得》有云：“开箱衣带隔年香”说的便是隔年的衣香芬漫出箱外。
后来民间文化与宗教文化相互影响相互结合，焚香也成了一项宗教仪式。在《无量寿经》、《法华经·提婆达多品》、《维摩诘经》等多部佛经都把沉香当做神圣贡品的记载。道教中也有“三柱真香通信法，三界神明降福来”的说法。在《降真香条》中也有：“降真香，能辟一切不祥。”的说法。
宋代丁谓的《天香传》是中国香文化的起源，书中讲到香除了“奉神明”还有“可以达蠲洁”（去病、除疫、养生）的作用。唐宋时期，从草香到树脂香的进入，香料也变得丰富。合香成为主流，由多种中药材按照一定比例配比而成合香，在燃烧后，各种药材会随着香气进入人体，从而达到养生保健、防病治病的效果。
如《神农本草经疏》中的“口鼻得芬芳清阳之气，则可除恶气，安脾胃。”又或者《苏合香疏》中又说：“凡香气皆能辟邪恶，其走窍逐邪，通神明，杀鬼精，除魇梦，去温疟虫毒，亦能开郁。” 这都是古人以香养身的最佳例证。
《大学》说 “知止而后有定，定而后能静，静而后能安，安而后能虑，虑而后能得”。一缕清香，可以使人身心平静，性格恬淡，逐渐摆脱一些或有可无的负担和累赘，使人心无杂念，不受外界侵扰，提神醒脑，除烦去燥，除秽除昏，从而达到沉静、空净、灵动的境界。
从唐末开始，人们就在香的应用中增加了一项“修心性”属性，这种情韵始终是明清人士力求保持的一种雅尚。宋代的这种“修心性”的用香方法是后代一直追寻的一种境界。黄庭坚、苏东坡、丁谓、范成大等这些宋代的士大夫，把“修心性”的香文化打造成一种风潮，合香、填词、作诗，风雅至极，并后世明清影响深远。
从祭祀到日常生活，到养生保健，再到修身养性，焚香，与插花、饮茶、弈棋等源于中国的生活艺术，构成了中华民族传统文化中最富诗情画意的篇章。
焚香是最奇怪的
不论何时
只要看到一柱香
心灵就有了安定的力量
相信那香不只是一缕烟
而是在遥远的地方
有一个神借着那一缕烟
聆听了我们的声音
—林清玄
