El abuelo de Mario llegó a Alemania para trabajar en un vivero y la familia se estableció en Riedlingen (Baden Wurtemberg). Aunque Mario nació en Riedlingen, se crió en Unlingen.
Inició su carrera profesional en 2003 con el Stuttgart, pero no fue hasta la temporada 2006-2007 cuando comienza a destacar como un prolífico goleador. Aquella temporada, Gómez anotó 14 goles en 25 partidos, superando su marca en la temporada 2007-2008.
En el 2007 además logró ser finalista de la Copa de Alemania, donde el VfB Stuttgart cayó frente al FC Nuremberg, tras 15 años, formó parte del plantel que se coronó campeón de liga por quinta vez en su historia.