Gustav Weiss kam am 17. Januar 1886 in St. Gallen als zweitjüngstes von fünf Geschwistern zur Welt. Sein Vater war Buchdrucker und stammte aus Wien, seine Mutter aus Rickenbach im Kanton Luzern. 1899 zog die Familie nach Winterthur, wo der Vater eine Stelle als Schriftsetzer beim «Winterthurer Tagblatt» antrat.
Nach der Sekundarschule absolvierte Weiss eine Typografenlehre. Gleichzeitig begann seine künstlerische Ausbildung an der Kunstabteilung des Technikums Winterthur. Dort wurde er von Léon Jean Pétua (1846–1921) und Louis Calame (1863–1931) unterrichtet.
1906 zog Gustav Weiss nach München, wo er sich zuerst an der privaten Malschule von Heinrich Knirr (1862–1944) einschrieb und zwei Jahre später in die Malklasse von Franz von Stuck an der Münchner Akademie der Bildenden Künste eintrat. Damit beschritt er in München dieselbe berufliche Weiterbildung wie Paul Klee, der von 1898 bis 1900 Schüler von Heinrich Knirr war und nach zwei Jahren für wenige Monate an die Kunstakademie München wechselte.
Nach seinem vierjährigen Aufenthalt in der bayerischen Hauptstadt kehrte Gustav Weiss 1910 nach Winterthur zurück, wo er als Aushilfe beim «Winterthurer Tagblatt» arbeitete und als freier Künstler tätig war. Bereits zu jener Zeit nahm er regelmässig an der jährlichen Dezemberausstellung teil, die bis 1916 in der Kunsthalle Winterthur (im Waaghaus an der Marktgasse) stattfand. Seine frühen Arbeiten standen noch unter dem Einfluss des Jugendstils.