1934年，莱昂纳德·科恩出生在加拿大蒙特利尔一个犹太中产家庭，在他9岁时父亲（一个服装商）就去世了。13岁时，他第一次拿起吉他，目的是为了给某个女孩留下印象，但在一两年后，他就开始在当地的咖啡馆演唱自己的歌。后来，科恩就读于麦吉尔大学，主修英文。17岁那年，他组建了一支叫做the Buckskin Boys的三人西部乡村乐队，同时，他开始写诗。当第一本诗集在1956年出版时，科恩还是一名大学肄业生。
在纽约哥伦比亚大学经历过一小段节衣缩食生活之后，科恩获得了一笔家族遗产使他可以过得很安逸。而他也毫不犹豫地过上了这种生活：沉湎女色，服用兴奋剂（当时还是合法的）以及周游世界。科恩开始在欧洲旅行，最后在希腊的一座岛上落脚，和一个女人与她的儿子一起生活。在希腊的7年时间里，他写了两本诗集和两部小说。如今，每本书都已卖出了超过100万本。
但是地中海的温暖阳光并不能平复科恩躁动不安的心。“在写书的时候，你不得不呆在一个地方，”1988年他接受《音乐人》杂志采访时说，“当你写一本小说的时候，总是希望一些东西包围着你。你的生活中需要一个女人，充满了美酒佳肴，而且最好还有孩子们，以及一个干净整洁的地方。而我已经拥有了这些，然后，我决定成为一个唱作人。”离开了舒适的家庭式生活之后，他回到美国，在音乐重镇纳什维尔附近安顿下来，准备开始他的音乐生涯。当时已经开始走红的民谣女歌手Judy Collins，翻唱了他的Suzanne，结果大受欢迎，成为电台热门歌曲和她最流行的代表曲目之一，于是她说服科恩一起参加民谣巡演。在1967年夏天的纽约新港民谣节期间，科恩首次登台亮相，并在CBS电视网节目上演唱自己的歌曲并朗诵了诗作。
科恩与哥伦比亚唱片公司签约，于1968年初出版了他的首张唱片《The Songs of Leonard Cohen》，尽管制作简单、内容抑郁（可能也正因为是这样），它在那个民谣盛行、唱作人风潮刚刚开始兴起的时代马上就大热起来，成千上万的大学生都买了这张唱片。像Suzanne、Hey, That\'s No Way To Say Goodbye、So Long, Marianne和Sisters of Mercy这样的歌曲使已经34岁的科恩成为了流行乐坛新偶像。