Odrasli sivi kiti se prehranjujejo predvsem s drobnimi raki, imenovanimi kril in drugi majhni nevretenčarji, kot so amfipodi in copepods . Pojedo tudi nekaj majhnih rib.
Da bi našli svojo hrano, sivi kiti uporabljajo tehniko, imenovano z blatom . Zajemajo velike količine usedlin iz oceanskega dna, s svojimi baleenskimi ploščami pa filtrirajo delce hrane in izgnajo blato in vodo.