Mr. Big połączył dwa popularne trendy muzyczne sceny rockowej lat 80.: hard rocka, skupiając się na melodiach i przyjaznych słuchaczowi refrenach, oraz imponującą biegłość techniczną znaną jako shredding. Początków zespołu można szukać w momencie gdy basista Billy Sheehan opuścił zespół Davida Lee Rotha w 1988. Natychmiast po tym Sheehan rozpoczął kompletowanie nowego składu z pomocą Mike'a Varneya z Shrapnel Records.

Menedżerem zespołu został były menedżer Journey i Santany – Herbie Herbert, a w jego skład weszli gitarzysta Paul Gilbert (ex-Racer X), perkusista Pat Torpey i wokalista Eric Martin. W 1989 nowo założony kwartet podpisał kontrakt z Atlantic Records, w wyniku którego wydano debiutancki album Mr. Big. Albumowi nie udało się dotrzeć do słuchaczy w USA, jednak odniósł spory sukces w Japonii.

Przełom nastąpił w 1991 wraz z drugim albumem, Lean Into It[http://www.youtube.com/watch?v=iIH4CzVZjGg&list=PLF18860B7954D2BD7]. Znalazły się na nim dwie ballady które zapewniły zespołowi sukces komercyjny: "To Be With You"[http://www.youtube.com/watch?v=5QD5n98R_nk] i "Just Take My Heart"[http://www.youtube.com/watch?v=rnWKxaDKBHI], a także piosenki rockowe takie jak "Green-Tinted Sixties Mind".

Kolejne wydawnictwa Bump Ahead w 1993 oraz Hey Man w 1996 nie powtórzyły sukcesu Lean Into It w USA. Natomiast w Japonii zespół nadal wyprzedawał swoje koncerty, a także wydał kilka płyt koncertowych na japońskim rynku.

W 1997 Paul Gilbert opuścił zespół aby zająć się karierą solową i reaktywować Racer X. Jego miejsce zajął Richie Kotzen, były gitarzysta Poison. W nowym składzie wydano dwa albumy: Get Over It w 2000 oraz Actual Size w 2001.

Napięcia w zespole pomiędzy Billym Sheehanem a pozostałymi członkami doprowadziły do upadku grupy. Kontrakt z wytwórnią na kolejny tour po Japonii został dopełniony w formie trasy pożegnalnej. Zespół rozpadł się w 2002, a wszyscy członkowie zajęli się innymi projektami muzycznymi.