veinte años antes, Kepler había observado por primera vez que el incremento de una variable, como, por ejemplo, la ordenada de una curva, es evanescente para valores muy cercanos a un valor máximo o mínimo de la variable. Desarrollando esta idea, Fermat obtuvo su regla para máximos y mínimos. Sustituyó
para en la función dada de e igualados entre sí los dos valores consecutivos de la función y dividida la ecuación por . Si se toma como 0, entonces las raíces de esta ecuación son los valores de que hacen que la función sea un máximo o un mínimo.
Fermat estaba en posesión de esta regla en 1629. La principal diferencia entre ella y la regla del cálculo diferencial es que introduce la cantidad indefinida en lugar del infinitamente pequeño . Fermat la convirtió en la base de su método para trazar tangentes.
Debido a cierta falta de claridad en su exposición, el método de máximos y mínimos, y de tangentes, de Fermat fue duramente atacado por su gran contemporáneo, Descartes, quien jamás llegó a hacerle plena justicia a su mérito. En la consiguiente disputa, Fermat encontró dos defensores entusiastas en Roberval y el padre Pascal; mientras que Mydorge, Desargues y
Hardy apoyaba a Descartes.
Desde que Fermat introdujo el concepto de diferencias infinitamente pequeñas entre valores consecutivos de una función y llegó al principio para encontrar los máximos y mínimos, Lagrange, Laplace y Fourier sostuvieron que
Fermat may be regarded as the first inventor of the differential calculus. This point is not well taken, as will be seen from the words of Poisson, himself a Frenchman, who rightly says that the differential calculus "consists in a system of rules proper for finding the differentials of all functions, rather than in the use which may be made of these infinitely small variations in the solution of one or two isolated problems."
Un matemático contemporáneo, cuyo genio superó incluso al del gran Fermat, fue Blaise Pascal (1623-1662). Nació en Clermont, en Auvernia. En 1626 su padre se retiró a París, donde se dedicó a enseñar a su hijo, pues no quería confiar su educación a otros.
El genio de Blaise Pascal para la geometría se manifestó cuando apenas tenía doce años. Su padre era muy versado en matemáticas, pero no deseaba que su hijo las estudiara hasta que estuviera perfectamente familiarizado con el latín y el griego. Todos los libros de matemáticas fueron ocultados de su vista. El muchacho preguntó una vez a su padre de qué trataban las matemáticas, y este le respondió, en general, «que era el método de hacer figuras con exactitud y de descubrir qué proporciones guardaban relativamente unas con otras». Al mismo tiempo se le prohibió hablar más del asunto o volver a pensar en él. Pero su genio no pudo someterse a estar confinado dentro de estos límites. Partiendo del simple hecho de que las matemáticas enseñaban los medios para hacer figuras infaliblemente exactas, concentró sus pensamientos en ello y, con un trozo de carbón, dibujó figuras sobre las baldosas del pavimento, probando los métodos para trazar, por ejemplo, un círculo exacto o un triángulo equilátero. Dio nombres propios a estas figuras y luego formó axiomas y, en suma, llegó a realizar demostraciones perfectas.