Republikanerna har en tunn majoritet på 222 platser, och minst 218 hade behövts för att säkra McCarthy som talman. Men ett tjugotal republikaner har motsatt sig och därför kommer en ny omröstning att hållas under onsdagen.
Detta är första gången på hundra år som representanthuset röstat fler än en gång för att utse en ny talman utan att lyckas.
Talmannen väljs i början av varje kongressammanträde vartannat år.