然而，由于数学在中国古代产生的时间实在是太早了，大约在四五千年以前的原始社会时期，我国的先民们就已经掌握了数和形的概念并在实践中开始应用这些数学知识的萌芽，而我们现在又找不到确切的记载当时情况的文字材料，所以要探寻中国数学的源头和创始人，就只能到古代的一些历史传说中去寻找有关线索了。
一种传说认为中国数学的创始者是黄帝，最早的数学知识和数学工具都是在黄帝时代发明的。例如汉代的一本数学著作《数术记遗》中说，是黄帝发明了数的记法和用法。也有的书中说，最早的算数是黄帝时代一个叫“隶首”的人创作的。又相传黄帝的老师--“大挠”发明了“甲子”。所谓“甲子”，就是用甲乙丙丁等十个“天干”与子丑寅卯等十二个“地支”配合起来以记年、记月、记日，其中包含了最早的组合数学的萌芽。这种干支记年的方法直到现在还在农历中使用。例如1998年为戊寅年，1999年为己卯年等等。
古代的“矩” 又相传黄帝时有一个叫“锤”的人发明了“规矩”。“规”是画圆的工具，“矩”则是画方的工具。我们知道，黄帝是中华民族的始祖之一，是传说中原始部落联盟的首领。他生活在新石器时代晚期，距今大约有四千七百多年的时间。 另一种传说认为中国数学的创始者是伏羲。《汉书·律历志》上说：“自伏羲画八卦，由数起”。三国时数学家刘徽在为《九章算术注》写的序言中，也把伏羲画八卦看作是古代数学的起源。伏羲又称包牺，也是传说中原始部落联盟的首领，他的生活年代比黄帝还要略早一些。所谓“八卦”，就是用阳卜“-”和阴卜“--”这两种符号排列组合而成的八种卦象。据近代有人考证，这阳卜“-”和阴卜“--”正代表了最早的“一”和“二”这两个数字，同时也代表了所有的奇数和偶数。至于八卦中所蕴含的排列组合数学思想，现在已经被国内外数学史界所公认了。
除了以上两种传说之外，还有一种传说与大禹治水有关。大禹也是传说中的原始部落联盟领袖，据说他为了治理洪水，不辞劳苦，四处奔走，三过家门也不进去。他右手拿着规矩，左手拿着准绳，发明勾股定理来测量水流河床的深浅和宽狭。据说他还派了一个叫“竖亥”的人，步行从东极走到西极，又从南极走到北极，以此来进行最早的大地测量工作。 以上种种传说虽然各不相同，但有一点是相同的，即都把数学的创始者和发明权归之于传说中的某一个领袖人物或英雄人物。其实，数学和自然科学的任何一门学科一样，绝不是某一个英雄人物能够一下子突然发明的。它的产生和形成，需要经过一个漫长的历史过程。这个历史过程，可能是几千年，也可能是几万年。
考古资料已经证明，早在传说中的黄帝和伏羲之前，浙江余姚的河姆渡人、陕西西安的半坡人以及山东和江苏北部的大坟口人，就已经有了长方形、三角形、菱形、圆形、球形、圆柱形等几何观念，并已经 掌握了一定的数目观念。显然，数学的产生，是千千万万的古代劳动人民在长期的生产劳动和生活实践中逐渐积累而成的。中国数学的创始者，正是这千千万万的古代劳动人民。当然，那些领袖人物或英雄人物可能对数学曾经作出过非常重大的贡献。我们可以把黄帝、隶首、大挠、捶以及伏羲和大禹等，看作是中国历史上最早的一批伟大的数学家。
