古希腊数学指用希腊文写成，从泰勒斯以来（约公元前600年）到公元后529年雅典学院关闭这段时间的数学成果[35]。希腊数学家居住在整个东地中海，从意大利到北非的地带，但拥有相同的文化和语言。亚历山大大帝之后的希腊数学，有时也被称作希腊化数学[36]。 古希腊数学比其他的早期文明发展出的数学更加先进复杂。古希腊数学之前存留下来的记录都表明了归纳推理的应用，也就是通过重复的观察来建立经验法则。但希腊数学正相反，使用演绎推理。希腊人使用逻辑从定义和公理中推导出结论，并在数学上严谨地证明它们[37]。 古希腊数学被认为是源于泰勒斯（公元前624到546年）和毕达哥拉斯（公元前582到507年）。虽然他们的影响程度依然是有争议的，但他们或许受到了埃及和巴比伦数学的启发。根据传说，毕达哥拉斯曾前往埃及向祭司学习数学、几何以及天文学。 泰勒斯使用几何学来解决问题，例如计算金字塔的高度，以及船只到海岸的距离。他也被认为是将演绎推理应用到几何学的第一人。由于推导出了泰勒斯定理的四个推论，他被誉为是第一个真正的数学家，以及第一个有署名的数学发现[39]。毕达哥拉斯建立了毕达哥拉斯学院，它的原则是数学统治着宇宙，并 有“万物皆数”的格言[40]。毕达哥拉斯是“数学”这个词语的提出者，也是因兴趣而研究数学的始作俑者（始作俑者是极度贬义词，并不是初创者的意思，改为先行者？）。毕达哥拉斯猜想的最早证明就归功于毕达哥拉斯学派[41]，尽管对整个定理的表述已经有很长时间的历史了。他们也证明了无理数的存在 在大概在同一时间，埃拉托斯特尼发明了寻找素数的埃拉托斯特尼筛法[66]。公元前3世纪，通常认为是希腊数学的黄金时代，在此之后，就再也没有那么多纯数学的研究成果出现了[67]。尽管如此，这之后的应用数学得到的很大的发展，例如最有名的三角函数很大程度上是为了满足天文学的需要[67]。喜帕恰斯被认为是三角函数的 创始人，他编制了第一张三角函数表，360度圆周的系统性应用也是自他开始[68] 。亚历山大港的海伦被归功于发现通过三边计算三角形面积的海伦公式，也是认识 到负数可能开平方的第一人[69]。亚历山大港的梅涅劳斯提出了梅涅劳斯定理，是球面几何的先驱[70]。古代最完整和最具影响力的三角函数著作是托勒密的《天文学大乘》，这是天文学的里程碑著作，其中的三角函数表被随后的天文学家继续使用了一千年[71]。利用三角法求圆内接四边形边长的托勒密定理也归功于他本人，托勒密精确计算出了圆周率为 3.1416，这直到中世纪欧洲都是很精确的（中国除外）[72]。 在托勒密去世后一个死气沉沉的时段过去了，接下来的公元250到公元350年，有时被称为希腊数学的“白银时代”[73]。在这个时段，丢番图在代数，特别是 不定分析（即“丢番图分析”）方面，也作出了令人瞩目的贡献[74]。如今，丢番图方程和丢番图逼近是一个重要的研究领域。丢番图的主要作品是《算术》，其中包括了150 个代数问题，研究了方程，特别是不定方程的解析解[75]。《算术》对随后的数学家产生了巨大的影响，例如皮埃尔·德·费马就是在阅读《算术》时，尝试一般化其中的问题而想到了费马大定理[76]。丢番图对数学符号的贡献也很大，《算术》是第一个系统性使用代数符号和syncopation（简记法？）[如何翻譯]的实例。[75] 第一位有历史记录的女数学家是希帕提娅。她继承了父亲的职位，成为大图书馆的馆长，并且写了很多关于应用数学的著作。因为亚里山大港的基督教社群认为她引起了一起政治纠纷，她便被撕去衣服，以尖锐的蚌壳（另一说是砖瓦）将她的肉从骨上刮下屠戮致死[77]。
祖沖之