O braço militar do Hamas disse ter agido em resposta ao “massacre de civis”.
O ataque com foguetes ocorreu às vésperas de novas negociações de cessar-fogo entre Israel e o Hamas, que devem ser retomadas na próxima semana.
Israel iniciou a tão anunciada ofensiva em Rafah há cerca de três semanas, prometendo destruir os batalhões restantes do Hamas.
Acredita-se que reféns israelenses também estejam sendo mantidos na cidade.
Mais de 800 mil palestinos fugiram de Rafah desde o início da ofensiva, segundo a Organização das Nações Unidas (ONU).
Cerca de 1,5 milhão de pessoas haviam se refugiado lá dos combates em outras partes de Gaza.
A campanha militar de Israel em Gaza começou depois que homens armados liderados pelo Hamas atacaram Israel em 7 de outubro, matando cerca de 1,2 mil pessoas e levando outras 252 para Gaza como reféns.
Quase 36 mil palestinos foram mortos na guerra desde então, segundo o Ministério da Saúde de Gaza, administrado pelo Hamas.