Su solución se basa en el método de los Coeficientes Indeterminados, del cual ostenta el honor de la invención. Los coeficientes indeterminados también fueron empleados por él para resolver ecuaciones bicuadráticas.
Los ensayos de Descartes sobre dióptrica y geometría fueron duramente criticados por Fermat, quien escribió objeciones al primero y envió su propio tratado sobre «máximos y mínimos»
para demostrar que había omisiones en la geometría. Descartes emprendió entonces un ataque contra el método de tangentes de Fermat.
Descartes estaba equivocado en este ataque, pero aun así continuó la polémica con obstinación. También mantuvo una controversia con Roberval sobre la cicloide. A esta curva se la ha llamado la «Helena de los geómetras», debido a sus hermosas propiedades y a las polémicas que su descubrimiento ocasionó.
Su cuadratura por Roberval fue considerada generalmente como un logro brillante, pero Descartes comentó al respecto diciendo que cualquiera con un conocimiento moderado de la geometría podría haber hecho esto. Luego envió una breve demostración propia.
Ante la insinuación de Roberval de que le había ayudado el conocimiento de la solución, Descartes construyó la tangente a la curva y desafió a Roberval y a Fermat a hacer lo mismo. Fermat lo logró, pero Roberval nunca tuvo éxito en resolver este problema, que le había costado al genio de Descartes tan solo un grado moderado de atención.
Él estudió unas nuevas curvas, ahora llamadas "óvalos de Descartes",
las cuales él pretendía utilizar en la construcción de lentes convergentes, pero que no arrojaron resultados de valor práctico.
La aplicación del álgebra a la doctrina de las líneas curvas repercutió favorablemente en el álgebra. Como ciencia abstracta, Descartes la mejoró mediante el uso sistemático de los exponentes y por la completa interpretación y construcción de las cantidades negativas.
Descartes también estableció algunos teoremas sobre la teoría de ecuaciones. Es célebre su «regla de los signos» para determinar el número de raíces positivas y negativas; a saber, una ecuación puede tener tantas raíces como variaciones de signos haya, y tantas raíces como permanencias de signos.
Wallis acusó a Descartes de haberse valido, sin reconocimiento, de la teoría de ecuaciones de Harriot, en particular de su modo de generar ecuaciones; pero no parece haber buenos fundamentos para dicha acusación.
Wallis también afirmó que Descartes no advirtió que la regla de los signos anterior no es cierta siempre que la ecuación tiene raíces imaginarias; pero Descartes no dice que la ecuación siempre tenga, sino que puede tener tantas raíces. Es verdad que Descartes no considera el caso de las imaginarias directamente, pero más adelante en su Geometría aporta pruebas indiscutibles de ser capaz de manejar también este caso.
En mecánica, apenas puede decirse que Descartes haya avanzado más allá de Galileo. Este último había derrocado las ideas de