伴随着墨子名气的不断提升，他参加的社会实践活动不断增加，知识面也不断拓宽。不久，他发现了儒学的许多弊端。虽然墨子接受的是儒家思想的教育，但是他感到儒家学派有好多理念和知识都不适合底层的劳动人民，于是他创建了一套自己的理论，这套理论就是后来人们所说的墨家学派。
墨家学派不只是个单纯的学术团体，还是一个有政治目标、有严密的组织和纪律的社会集团。墨家学派以墨子的“兼爱”理论为指导思想，以行义为己任，救世济民为目的。
墨家学派的成员既要学习各种理论知识，又要参与各种生产活动，甚至直接参与反侵略战争。学派成员有许多被推荐到各国去做官，但是不管当多大的官，都必须严格按照墨家的宗旨办事，如果违反了组织纪律，就会被召回，受到纪律处分，这个组织的领袖被称为“巨子”。
墨子出身平民，生长在乡村，他基本上没有机会看到国家的礼仪场面，更没有条件欣赏乐舞。后来有机会看到了也没有像孔子那样，迷得三个月不知肉味。
墨子所感受到的就是统治者为了享乐而给老百姓增加的痛苦。他亲眼看见王公大人们强迫年轻的男女，抛弃耕稼、树艺、纺纱、织工的必要工作，去为统治者撞钟击鼓，弹琴鼓瑟，唱歌跳舞，以供他们享乐。
当听到齐康公组织万人演奏名为《万》的大型乐舞时，他气愤地说：“这是掠夺老百姓衣食之财呀！”所以，他主张非乐。不过他非乐非得确实有些过火，儒家崇周，周代尚文，商代尚质，孔子说：“质肚文则野，文胜质则史。”意思是质朴胜过了文饰，就会显得粗野，文饰胜过了质朴，就会显得虚浮。只有质朴和文饰配合适当，才可能成为君子。所以，孔子主张“文质彬彬”。
孔子也是反对奢侈和提倡节俭的，然而，他毕竟是强调从周尚文：“郁郁乎文哉，吾从周”。后来儒家则将他的主张发展到了极端，完全丢开了简朴的主张。墨子对此表示了极大的反感，墨子主张节用节葬，发展生产，节约开支，从而提高人民的生活水平。
反对崇周，必然要考虑崇商。墨子身为殷商后裔，而商又恰恰是尚质的。但墨子非常慎重，因为他知道，确立了推崇对象就是树起一面旗帜，那实际上代表了自己的理想。他决心进行实地考察。
宋国是殷商的大本营，宋国人都是殷商遗民，宋国的开国君主微子是殷商的名臣，所以，宋国必然能保存着前代尚质的遗风。墨子带着几个学生，去宋国作了一次考察。
他访问了许多学者，与社会各阶层人士接触。通过考察，墨子把宋国和鲁国的情况作了对比，他认识到，崇周不好，崇商也不行。宋园的殷商遗风自然地使他想起了他的先祖目夷子和宋襄公的故事。
儒家崇周，我们却不能祟商，这该怎么办呢？他一边走路，一边陷入了沉思。忽然间，随行的弟子们叫起来，他抬起头，发现走到了一个四岔路口处，哪条路才是正道，哪条路才能达到目的地？
触景生情，墨子由此感悟道：人生的道路不也是如此吗？自己现在不是正处在人生的十字路口吗？他深深地叹了口气，自言白语地说：“我们一定要慎重，选择好自己应该定的路。如果不慎，可能会违背初衷，不能为天下谋利，说不定还会危害天下。”
忧患心切的墨子，面对此情此景，感慨力干，不知不觉，竟潸然泪下，这就是后来墨子哭歧途的典故。
弟子们用吃惊的目光注视着老师。墨子意识到自己有些失态，便解释说：“人生会有很多歧路，肯定也会有很多正道。关键在于有没有正确的指导思想在指导。我们原来学习儒家的那一套，已经发现有那么多弊端，就不能再沿着错误的路走下去，我们要创建自己的学说，组织自己的学派。”
墨子思虑好久好久，突然眼前忽然一亮，对了，我们崇夏！尧舜禹是古代三位有名的圣君．儒家也把他们置于极高的地位。禹为了使人民过上幸福生活，治理洪水，三过家门而不入。他就是为了天下利益的圣人，这才是我们应该效法的楷模。
这一发现使墨子激动不已，像是一下子找到了知音，他觉得他的心和大禹贴得好近。大禹所做的事是为天下兴利除害，墨子为的是天下所有的人，墨子对儒家的“亲亲有术，尊贤有等，强执有命，繁饰礼乐”早就十分反感，而大禹的所作所为，和儒家的这一套也正好相反。
于是墨子决定背周崇夏，非儒自立。此后，墨子公开树起了反儒的大旗。他把十大主张兼爱、非攻、尚贤、尚同、节用、节葬、天比、明鬼、非乐、非命作为学生的思想教育课。
因为墨子反儒，儒家之徒有不少人来找墨子辩论。但墨子反儒是经过多年思考并进行过实地考察的结果，所以通过辩论他的影响更大了。
