Hijo de un profesor de Yale, fue el primero que alcanzó el grado de Doctor en ciencia por una Universidad norteamericana.Cursó estudios además en las universidades de París, Berlín y Heidelberg.
Dio clases de física matemática en Yale desde 1871 hasta su fallecimiento.
De 1876 a 1878 escribió unos ensayos titulados "El equilibrio de las sustancias heterogéneas", que están considerados como la base de la química física. En los ensayos aplicó la termodinámica a la química y mostró la explicación y correlación de hechos inexplicables hasta el momento.
Alrededor de 1880 comenzó a desarrollar el simbolismo y el álgebra de vectores, que introdujo en Estados Unidos.
En 1901 recibió la medalla Copley de la Sociedad Real británica. Realizó además trabajos en mecánica estadística, en análisis vectorial y en la teoría electromagnética de la luz.
Josiah Willard Gibbs falleció el 28 de abril de 1903 en New Haven, Connecticut.
