Carl Johann Weber-Sulzer wurde am 15. Januar 1845 in Ettlingen bei Karlsruhe als Sohn von Johann Jakob Weber und Friederike Amalie Wieking geboren. Er war das älteste von neun Kindern. Im selben Jahr erfolgte der Umzug der Familie nach Winterthur, wo Carl Weber seine Kindheit verbrachte. Als ältestes Kind war er häufig im Haushalt tätig, was sich nachteilig auf seine schulischen Leistungen auswirkte. Über seine schulische Laufbahn erzählte Weber seinen Kindern, dass er ein durchschnittlicher Schüler gewesen sei. Erst als die naturwissenschaftlichen und technischen Fächer dazukamen, wurden seine Leistungen besser, was ihm den Besuch der Industrieschule nach Abschluss der obligatorischen Schulzeit ermöglichte.
1862 studierte er an der naturwissenschaftlichen Fakultät der Universität Zürich für ein Jahr Chemie und Physik. Bereits im Alter von 19 Jahren wurde er von seinem Vater mit der Aufgabe betraut eine Filiale des väterlichen Unternehmens in Mariental bei Wien zu gründen und zu leiten. In dieser Zeit absolvierte er verschiedene Studienaufenthalte in Frankreich, England und Schottland. 1869 kehrte er zurück nach Winterthur und trat in die väterliche Firma, die Färberei Zur Schleife, ein. 1874 heiratete er Henriette Sulzer, mit ihr wurde er Vater von zwei Töchter. 1888 übernahm er die Leitung der Firma, zuerst gemeinsam mit seinem jüngeren Bruder Jacob, der jedoch bald darauf auf dem Bernina tödlich verunglückte und so aus der Firma ausschied. Die Firma florierte bereits zu Johann Jakob Webers Zeiten, aber dank Carl Webers Forschungen und seinen technischen Erfindungen konnte der Betrieb den Erfolg ausbauen.
Durch Webers Erfindungen wurde ihm die Ehrenmitgliedschaft in der Schweizerischen Chemischen Gesellschaft zuteil. Im Jahr 1901/02 erfolgte die Umwandlung der Firma in eine Aktiengesellschaft, die fortan den Namen Carl Weber AG trug. Bis zu seinem Ableben am 19. April 1915 fungierte er als Delegierter des Verwaltungsrates und leitete das Unternehmen.