左小祖咒于90年代初创立了摇滚乐队”NO”。他是该乐队主唱歌手、吉他手、提琴手和歌曲作者，同时也是前卫艺术家群落”北京东村”的第一批人物。 1993年6月，左小祖咒与夜千创建NO乐队。 1994年秋，祖咒、夜千、边巴平措和卢琦在老哥的制作下录制过第一首录音室歌曲《无解》，95年在香港”音乐传讯”公司发行，它具有极端主义的阴郁噪音和疯狂的提琴、肢解般的超现实主义风格，为NO乐队带来了最初的声望。
1995年冬，祖咒、夜千和于伟民由老哥录制第二首录音室歌曲《六枝花》。因为歌词的邪异、晦涩，在次年发行的《摇滚北京Ⅱ》中被删除。
1995年，祖咒和巴西女音乐家Silvia Ocounge为马英力导演的电影《面的时节》创作的音乐获西柏林电影节最佳提名。
几年以来，祖咒的主要精力用于默默地进行个人音乐探索。他把早期那种祖咒式的疯狂提琴运用在演唱中，使人声癫狂而又冷漠，尤其他个人化的高音演唱，造就了国内摇滚乐的一次人声革命。到了90年代中后期，他已经从一个噪音朋克歌手发展成为一个”舞台表演艺术家”。他创造了一种包含着野蛮的提琴式歌唱的凄美音乐，这是一种破坏性的声响，是从民间歌曲到先锋摇滚的混合物。
1998年2月左小祖咒制作了NO乐队首张专辑《走失的主人》，乐手有虎子（吉它）、张蔚（鼓）、李剑（贝司）。专辑中收录了祖咒1993年-1996年创作的歌曲。
1998年10月香港先锋音乐家李劲松的Soinc Factory唱片公司发行了这张专辑。12月3日《走失的主人》入选《音乐生活报》98年度十佳中文唱片。1999年2月《走失的主人》入选《音乐天堂》98年度十佳中文唱片；3月《走失的主人》获选《音像世界》十大中文专辑唱片第三名；4月由Bad Head唱片公司 在中国大陆发行《走失的主人》；4月，歌曲《正宗》进入上海电台音乐一台”中国原创音乐排行榜”第九名；6月《走失的主人》持续十三周荣登《通俗歌曲》销售排行榜第三名；2000年3月，歌曲《正宗》入选《通俗歌曲》1999年度十大单曲第二名，NO乐队入选1999年度十大乐队，《走失的主人》入选1999年度十大专辑第八名。
《走失的主人》赢得了中国以刻薄著称的乐评家的高度赞誉。南方的张晓舟在《音乐天堂》评价”《走失的主人》是一张非常本色的专辑，在不用合成器及其它电子音源甚至不用效果器的情况下自然挖掘音色的可能性”。认为在歌曲《阿丝玛》中里”祖咒像一个赤裸、透明的醉鬼（酒神？！）自始至终地发出惊喜的尖叫，是一首伟大的赞美诗”。”祖咒最终存在的苦难、污浊病态中吸血一样提取悲剧的落日。《走失的主人》是一个里程碑式的事件”。
杨波在《港澳信息报》评价”NO的音乐如一句英谚：’丝绒手套里的铁拳’，祖咒老谋深算的超现实主义与意象主义纠缠不清的词作总颇似污言秽语的词构砌里挣扎出纯粹，唯美的诗意来”。”他本人的江浙情结又使NO音乐脊髓里飘荡着浓浓的本土的文匪气质，从文化角度和音乐的角度NO探索着中国摇滚的个性路线”。
胡凌云评价胡凌云评价《走失的主人》充满了智慧以反常的形式燃烧着咄咄逼人的热情”。”其音响和意识在未来数年都将是常新的”。北方的颜峻评《走失的主人》”在荒诞的主题下虚拟的现实，自然奔涌的复杂情感构成了表达方式的独特：启蒙式的吉它，贝司，鼓的常规与反常规的运用”。
陶然认为《走失的主人》”是一张理性与感性兼备的唱片，成为了噪音实验专辑的范本之作”。
郝舫在《丝绒革命的另一面》中揭露”NO的那群狗，那碗宫爆鸡丁，那对苹果，那只插头和那六枝花才是岁月的秘密所在，是局外史学家的丰富史料”。
1999年，祖咒和北京东村艺术家集体的行为艺术作品《为无名山增高一米》（1995年）参加了48届威尼斯国际双年展。
《走失的主人》发行后，祖咒调整了NO乐队的乐手，邀请了舌头乐队的吉它手朱小龙和键盘手郭大纲、英国的自制琴手Kristian、贝司手李墙，及原鼓手张蔚，开始制作第二张专辑《庙会之旅》。
《庙会之旅》收录了祖咒新阶段的代表作《苦鬼》，和多年的心血之作《莫非》。由于歌词更加强烈的现实批判色彩，《庙会之旅》四首歌词无法公开，音乐也作了重新缩混，直到2000年1月才由Bad Head唱片公司发行。
乐评人颜峻写到：”《庙会之旅》之所以比《走失的主人》有更多的低音，更浑浊的音效和更顽固的节奏，是因为地下精英告别了个人抒情的年代，真正开始承担了责任。”也让NO研究了新方法，戏曲、异域之音、小提琴噪音和常规乐器并驾齐驱，以高音的狡诈和织体的错乱发展了声学，就连电子的时尚节拍也倒退了疯癫”。
张晓舟说：”祖咒这一次扔掉了丝绒手套，直接面对现实出拳”。”在’家父’中威士忌琴、蚊子琴和Kazoo一起远交近攻，将NO的声响怪异美学推向极致”。
上海乐评人孙孟晋说：”无论你愿意不愿意被一个人吆喝着，《走失的主人》是为挣扎而痛苦，《庙会之旅》却为苦难而微笑的。……《庙会之旅》是死亡之旅，’苦鬼’、’冤枉’、’除夕’、’莫非’……一连串的音乐，一连串的圆舞曲开步。”
《通俗歌曲》主编彭洪武的碟评中称”《庙会之旅》是多种声腔的交替运用，和及民间韵调的器乐水乳交融，体现了老摇滚先锋沉郁的底层人情味和博怀的另一面，《苦鬼》它满负与时代生活相背的阵痛，它沉重地匍匐到悲愤的巅峰”。”这个由前卫文学，行为艺术，另类音乐锻造的摇滚老战士–左小祖咒的机智，幽默再次淋漓尽致地伴着心血跌落下来，渗透力比之《走失的主人》更胜一筹，’除夕’、’祭日之星’等细腻而又耐听，其分叉的圆柱也支撑着整张《庙会之旅》的直立”。
2000年1月左小祖咒第一本长篇小说《狂犬吠墓》出版。《狂犬吠墓》表现出了疯狂的才华和不拘一格的创造力。它代表了中国艺术家在一个缺乏资讯、市场，也没有艺术史背景的环境中的本能创造性，这种力量在达到一个自觉高度的时候，形成了不可替代的独特价值。郝舫在序言里写道：”《狂犬吠墓》是一代人的绝望书，历史创伤、政治痛苦，经济哄乱和心灵迷离痴缠绞叫；无助、沮丧、依赖、焦虑、激愤、狂想及一切末世纪中国青年的时代病症全部发作和投射”。颜峻的跋中总结道：”左小祖咒不是现代主义战场无畏的鞭尸者，他只是一只忧郁的狂犬，在这个国家的艺术家为虚妄的光荣抛洒生命的时候，他是一切光荣、尊严和爱情的私生子。”
2001年11月，左小祖咒以其个人名义制作了第三张专辑《左小祖咒在地安门》，11月嚎叫唱片发行，12月由台湾直接流行唱片公司发行了海外版。
他的第三张专辑《左小祖咒在地安门》已经把个人情感和社会性话题融合在一起，在演唱和歌词方面树立了一个难以超越的高度，并在制作方面成为指标性超越对象。《左小祖咒在地安门》唱片的高销量，赢得了地下音乐和流行音乐界的双重尊敬。左小祖咒已成为当今中国摇滚最有群众与思想上影响力的歌手。
2003年，左小祖咒为朱文的电影《云的南方》配乐，此片后获得第54届柏林电影节“The Network for the Promotion of Asian Cinema”奖，著名小提琴家盛中国在其中演奏。
2004年6月26日，因不满《庙会之旅》首版的删改，左小祖咒花去了近两年的时间重新录制发行了《庙会之旅》2004版，由台湾直接流行唱片公司发行。
同年，左小祖咒为贾樟柯的电影《世界》制作了主题曲。
2005年5月25日，左小祖咒发行了悬寂三年的豪华专辑《我不能悲伤地坐在你身旁》，首版限量发行2000套。此专辑由台湾传奇制作人方无行与左小祖咒联合制作。台湾另类创作女歌手及著名制作人陈珊妮在其中与左小祖咒对唱了歌曲，其好友国内顶级吉他手李延亮演奏了标题曲。
那杆枪被你扔了
我也没有说我用不上那玩意儿
我需要它去杀某个人在昨天
我不能悲伤地坐在你身旁
我不能悲伤地坐在你身旁
当我推开那扇门
想看看永恒荣光的状景
那没有他们说的实用阶梯然而我
又不能悲伤地坐在你身旁
我不能悲伤地坐在你身旁
那把吉他你拿回来了
你也没有说我用不上那玩意儿
我需要它来歌唱在今天
我不能悲伤地坐在你身旁
我不能悲伤地坐在你身旁
在我走出那扇门
撕下某本书的二百五十二页
它用黑色镶金这般地写着:
hey 我不能悲伤地坐在你身旁
我不能悲伤地坐在你身旁
我不能悲伤地坐在你身旁
我不能悲伤地坐在你身旁
我不能悲伤地坐在你身旁
我不能悲伤地坐在你身旁
没听之前，想当然地以为他是中国的Nick Cave。莫名其妙。为专辑名字所吸引，第一首就点了“我不能悲伤地坐在你身旁”，惊愕。是……跑调？还是来自外星球的声音？然后是“当我离开你的时候”，很是喜欢，莫名地想到“Henry Lee”，当然除了对唱形式没什么一致，大概因为那该死的先入为主的Nick Cave.老老实实从头来过，一边看歌词一边听“像孩子似的倾听”，开场编曲很精彩，只是待左小一开口，居然笑倒。美好的爱情情境在“不走寻常调”的嗓子下显得有些滑稽。觉得自己很不严肃，但……还是笑倒。
然而喜欢，歌词和编曲很有味道。有让人动容和深省的东西。再听，已不会笑了，更多地去感受。听《平安大道的延伸》时，有点心酸。有一点揶揄，有一点嘲讽，有一点思考，有一点哀伤，藏在左小祖咒喜剧化的声音背后。我不能悲伤地坐在你身旁，为什么？因为即使悲伤，我也要让你笑出声来。
