香道以前的香，是以香味为主要目的的。中国香传入日本，初期阶段也重视香味。但使用方法却略有不同。根据古文献记载，中国人喜欢将香囊挟在肋下、腋下。有人还将香料涂在靴子上。尽管日本也有香囊，那只不过是一种形式而已。
日本人喜欢将香料放在房屋四角或者用香熏衣料。到了室町时代，香逐渐成为人们鉴赏的对象。三条西实隆的出现使香的地位得到巩固。加之这一时期茶道、花道的出现，使室町时期成为日本文化史上的鼎盛时期。茶、花、香在茶室这一特殊的场所，得到了协调统一的发展。尽管从表面上看，三者的追求对象不同，但在求闲寂、优雅方面却是共同的。从室町时期开使香道作为一种与茶道、花道并驾齐驱的室内艺术，揭开了它灿烂历史的第一页。由于香道将闲寂、优雅作为追求目标所以很快在町民、武士阶层中传播开来，并很快打下了坚实的基础。
最原始的香是佛教的供香。因此香大概是与佛教同时传入日本列岛的。《日本书经》推古三年（595）有"沈木漂于淡路岛，其大一围，岛人不知沈木，以薪烧于灶，其烟气远熏，以异则献之"之说。这是日本古文献中对香的最早的描述。最初传入日本的香，种类不会很多。尽管如此，日本正仓院御物目录之中却记着不少香料的名字。古香中最有名的首推兰奢待。日本现存最古的木片式的香料兰奢待也是东方名香之一。日本天平五年（733）圣武天皇时兴建东大寺，兰奢待收于正仓院内。
奈良时代的焚香方法称烧香。也就是将一种香或者两种以上的香，直接点燃。亦称"供香"，是奈良时期的主流。日本平安时期多种多样的香料输入日本，使日本人对香料的反映敏感起来，日本人开始有目的地选择香剂，将它们搭配起来，品闻各种组合香的气味。日本人称这一时期的香为"香合"、"炼香"。由于焚香时会产生大量香气，所以亦称"熏物"。平安时期创作的宫廷文学中有不少关于香的记载。《枕草子》中就有宫廷贵妇用香料熏衣的描述。《源氏物语》中的人物薰君，其名便来源于香料。可见古时候香料是日本贵族妇女不可缺少的陪衬。
镰仓时代末期，社会上风行赏玩沉香。沉香原产东南亚及日本南方诸岛，产地分布极为广阔。但是，每一产地所产沉香无论色、味都各不相同。日本人恰恰把分辨沉香产地及成色当作己乐。他们将沉香分为伽罗、罗国、真那贺、真那蛮、寸门多罗、佐曾罗六大类。沉香一时成了贵族和足利将军家的珍品。上流社会搜集沉香之风大盛。不久，由于中日贸易的发展，大量香料从中国流入日本社会，日本出现了新的鉴赏之物"名香组合"。随着时代的发展，香料的欣赏之法也相应地发生变化。三条西实隆生于日本康正元年（1455），殁于天文六年（1537）。三条西实隆曾于日本永正三年（1506）升正二位内大臣，获得了贵族阶层的最高荣誉。日本江户时代三条西实隆被尊为香道的始祖。三条西实隆的日记《实隆公记》中有不少关于香的记载。相传实隆本人收集了66种名贵香料。尽管至今还没有材料可以证明实隆确立了香道的流仪，但他的确为香道建立了特殊地位。三条西实隆的后代三条西公条、实枝继承了父亲的事业（日本人称三条西实隆和他的后代公条、实枝为三条西三代），首次确立了三条西香道的家元（家主）。三条西家香道流仪的特点是风格高雅。这与三条西出身大臣家有很深的关系。目前，三条西流派的香道分初传、中传、里传三个阶段。志野宗信几乎同三条西实隆同时开辟了香道的另一流派--志野流派。志野宗信是幕府将军足利尊的近臣。宗信开创的香道流派由其子弥三郎宗温、其孙弥次郎省巴（三人统称志野家三世）继承。志野流派得到进一步的巩固。然而，自弥次郎省巴之后，志野流派曾一度绝传。现在的志野派实际上是由后世人峰谷宗悟传下来的。
不同于三条西派，志野派的特点是具有浓厚的武（士）家色彩。香道的操作规程井然有序。初学志野派香道的人必须接受严格的训练。三条西派现任继承人三条西尧山将自己创作的组香奖给学习香道的人，而志野派却从未进行过类似的奖励。由此可见，三条西派与志野派的不同之处。这与两派的出身有很深的关系。
织田信长、丰臣秀吉时代志野省巴的弟子建部隆胜、峰谷宗悟开创了建部流派和峰谷流派。香道界出现了空前的繁荣。
近代，志野宗信派为了打破贵族、上层武士、上层町人对香道的垄断，深入社会，积极地向町民、农民推广香道艺术。志野派的《诸国香道门人帐》收入的人名录包括各个阶层的人们。可见当时香道人口的分布已经十分广泛。香道已从上层人物的玩赏之物，变成庶民百姓也能接受的艺术。这是香道艺术的一大转折。香道开始以民间教养的身份出现在社会上。町民、地主依靠自己的经济实力，学习香道，以加强自身的修养。艺妓们也把通晓香道作为一种嗜好。有关这一点，西鹤的小说及民间风土人情画中都有大量的描述。香道正是在由玩赏对象变为社会教养的过程中逐渐形成的。从此，香不再以其味为主，而是作为一种艺术教养出现在日本社会。
十六世纪三条西派、志野派、峰谷派诞生之后，便为后人留下本流派的香道宗谱。但是，目前流传在日本社会上的这一时期的香道宗谱原作已为数甚少，多系伪作。十八世纪才出现了有关香道的大量宗谱。十八世纪曾是香道的鼎盛时期，加之印刷术也有了很大的发展，使得这一时期的不少香道宗谱流传至今。比较有名的有《体源抄》。作者丰原统秋。丰原家世代为雅乐班头，专门为朝廷服务。该宗谱除记载家传古乐、古乐器的来源以外，还有关于各种香炉的记载。值得注意的是，该宗谱特别提到了闻香炉。这在闻香史上是值得大书特书的。《志野宗信香笔记》记载了香道的经验及秘传。
《参雨斋香记》为志野派第二代传人宗温所著，参雨斋为宗温的雅号。该书主要记载了香的阴阳之事及香炉、工具等。《隆胜香记》的作者为建部派始祖建部隆胜。该宗谱记载了香道工具，香的典故及香道作法等方面的知识。《香道轨范》的作者为峰谷派创始人峰谷宗悟。该书几乎详细介绍了有关香道的所有的知识。《闻香目录》的作者不详。目录内收录了名香十炷香、花月香、源平香、系图香、付源氏香、小鸟香、小草香、宗治山香、子规香等。《千代农秋》为大枝流芳所著，全书共四册，记载了香阁板、香工具、香席法度及新发明的组合香。《香道兰园》为集香道之大成之作。从香传入日本，组香的种类，十炷方式到工具、香席法度都有所谈及。《香道贱家梅》同《香道兰园》一样，同系香道百科。可见十八世纪中期日本的香道完全体系化了。
