Karl Gall kam vom HAC Nordstern Wien, bei dem er von 1925 bis 1928 spielte zur Wiener Austria und galt zu seiner Zeit als ein brillanter Spieler mit überraschenden Einfällen und einem starken Offensivdrang. Von seiner Statur war er seinen Konkurrenten und Mitspielern unterlegen, machte dies jedoch durch seine starke und ausgereifte Technik wett. Er war ein Seitenläufer von exzellenter Klasse und ein blendender Dribbler. Seine Soloeinlagen waren berühmt und passten ganz zum seinerzeitigen Stil der Wiener Austria. Mit den Violetten aus Wien feierte er mit den Pokalsiegen von 1935 und 1936 und den Mitropacupsiegen von 1933 und 1936 seine größten Erfolge auf Vereinsebene. Über den Titel eines österreichischen Meisters durfte sich Gall leider nicht freuen. 1936 verließ Gall die Wiener Austria und spielte bis zum Ausbruch des Zweiten Weltkrieges als Profi in Frankreich. Im Herbst 1940 kehrte er wieder zurück zur Austria, allerdings bekam er die Spielerlaubnis erst im Februar 1941.
1931 wurde Karl Gall erstmals in die österreichische Nationalmannschaft einberufen und feierte sein Debüt am 12. April 1931 beim 2:1 Heimerfolg der Österreicher gegen die CSSR in Wien. Im Nationalteam hatte er in seinem Vereinskollegen Walter Nausch einen sehr starken Konkurrenten um seine Position, brachte es aber zwischen 1931 und 1936 insgesamt auf 11 Einsätze und gehörte auch zum Stamm des Wunderteams. Daneben absolvierte Karl Gall noch 20 Einsätze in anderen Auswahlmannschaften. Die Weltmeisterschaft von 1934 in Italien erlebte Gall nur als Zuschauer, erst 1936 feierte er in seinem letzten Auswahlspiel, wieder gegen die CSSR in Wien ein kurzfristiges Comeback und den Abschied vom Nationalteam.
1942 wurde Karl Gall in den Kriegsdienst eingezogen und kam an die Front nach Russland. Am 27. Februar 1943 riss eine Mine den eleganten Fußballspieler der Wiener Austria aus dem Leben. Karl Gall wurde nur 38 Jahre alt. Am 6. Dezember 1942 trug er gegen Rapid (6:2 Sieg auf der Pfarrwiese) zum letzten mal das Trikot der Austria.
Vereine:
HAC Nordstern Wien (1925 - 1928), Austria Wien (1928 - 1936), Frankreich (1936 - 1939), Austria Wien (1939 - 1942)