Durante su estancia en Londres, Leibniz mostró a la Royal Society su máquina aritmética, la cual era similar a la de Pascal, pero más eficaz y perfecta.
Tras su regreso a París, tuvo el tiempo libre necesario para estudiar matemáticas de un modo más sistemático. Con indomable energía se dispuso a remediar su ignorancia en matemáticas superiores. Huygens fue su maestro principal. Estudió las obras geométricas de Descartes, Honorarius Fabri, Gregorio de San Vicente y Pascal. Un estudio minucioso de las series infinitas lo condujo al descubrimiento de la siguiente expresión para la razón entre la circunferencia y el diámetro del círculo, descubierta previamente por James Gregory:–- Esta elegante serie fue hallada del mismo modo que la de Mercator sobre la hipérbola. A Huygens le complació enormemente y lo incitó a emprender nuevas investigaciones. Leibniz se adentró en el estudio detallado de la cuadratura de curvas y con ello llegó a familiarizarse íntimamente con las matemáticas superiores. Entre los manuscritos de Leibniz todavía se conserva uno sobre cuadraturas, escrito antes de su marcha de París en 1676, pero que él nunca llegó a publicar. Las partes más importantes del mismo se incorporaron en artículos publicados más tarde en los Acta Eruditorum.
En el estudio de la geometría cartesiana, la atención de Leibniz se inclinó pronto hacia los problemas directo e inverso de las tangentes.
El problema directo había sido resuelto por Descartes únicamente para las curvas más simples; mientras que el inverso había trascendido por completo el poder de su análisis. Leibniz investigó ambos problemas para cualquier curva; construyó lo que llamó el triangulum characteristicum —un triángulo infinitamente pequeño entre la parte infinitamente pequeña de la curva que coincide con la tangente, y las diferencias de las ordenadas y abscisas.
Una curva se considera aquí como un polígono. El triangulum characteristicum es semejante al triángulo formado por la tangente, la ordenada del punto de contacto y la subtangente, así como al comprendido entre la ordenada, la normal y la subnormal.
Fue empleado por primera vez por Barrow en Inglaterra, pero parece haber sido reinventado por Leibniz. A partir de él, Leibniz observó la conexión existente entre los problemas directo e inverso de las tangentes. Vio también que este último podía reducirse a la cuadratura de las curvas. Todos estos resultados están contenidos en un manuscrito de Leibniz, escrito en 1673.
Uno de los métodos utilizados por él para efectuar cuadraturas era el siguiente: El rectángulo formado por una subtangente y un elemento (es decir, una parte infinitamente pequeña de la abscisa) es igual al rectángulo formado por la ordenada y el elemento de dicha ordenada; o en símbolos, . Pero la suma de estos rectángulos a partir de cero da un triángulo rectángulo igual a la mitad del cuadrado de la ordenada. Así, usando la notación de Cavalieri, obtiene
&\omn pa = \omn yl = \frac{y^2}{2} \quad \text{(\textit{omn.} que significa \textit{omnia}, todo)}.
\intertext{Pero ; por tanto}
&\overline{\omn \overline{\omn l}\, \frac{l}{a}} = \overline{\frac{\omn l^2}{2a}}.
Esta ecuación es especialmente interesante, ya que es aquí donde Leibniz introduce por primera vez una nueva notación. Dice: