Imam Ibnu Hajar al-Asqalani menjelaskan asal nama tarawih ini sebagai berikut:
وَالتَّرَاوِيحُ جَمْعُ تَرْوِيحَةٍ وَهِيَ الْمَرَّةُ الْوَاحِدَةُ مِنَ الرَّاحَةِ كَتَسْلِيمَةٍ مِنَ السَّلَامِ سُمِّيَتِ الصَّلَاةُ فِي الْجَمَاعَةِ فِي لَيَالِي رَمَضَانَ التَّرَاوِيحَ لِأَنَّهُمْ أَوَّلَ مَا اجْتَمَعُوا عَلَيْهَا كَانُوا يَسْتَرِيحُونَ بَيْنَ كُلِّ تَسْلِيمَتَيْنِ
"Tarawih adalah jamak dari tarwihah yaitu istirahat satu kali, seperti kata taslimah berasal dari kata salam. Shalat berjamaah di malam-malam bulan Ramadhan disebut sebagai tarawih karena pada awal ia dilakukan berjamaah, para sahabat beristirahat di antara setiap dua kali salam." (Ibnu Hajar al-Asqalai, Fathul Bari, juz IV, h. 250)
Dijelaskan lebih detail lagi, peristiwa awal shalat tarawih berjamaah baru terjadi saat masa Khalifah Umar dengan imam tarawih ketika itu adalah Ubay bin Ka'b. Hal itu sebagaimana dijelaskan dalam hadits berikut:
عَنْ عَبْدِ الرَّحْمَنِ بْنِ عَبْدٍ القَارِيِّ، أَنَّهُ قَالَ: خَرَجْتُ مَعَ عُمَرَ بْنِ الخَطَّابِ رَضِيَ اللَّهُ عَنْهُ، لَيْلَةً فِي رَمَضَانَ إِلَى المَسْجِدِ، فَإِذَا النَّاسُ أَوْزَاعٌ مُتَفَرِّقُونَ، يُصَلِّي الرَّجُلُ لِنَفْسِهِ، وَيُصَلِّي الرَّجُلُ فَيُصَلِّي بِصَلاَتِهِ الرَّهْطُ، فَقَالَ عُمَرُ: «إِنِّي أَرَى لَوْ جَمَعْتُ هَؤُلاَءِ عَلَى قَارِئٍ وَاحِدٍ، لَكَانَ أَمْثَلَ» ثُمَّ عَزَمَ، فَجَمَعَهُمْ عَلَى أُبَيِّ بْنِ كَعْبٍ، ثُمَّ خَرَجْتُ مَعَهُ لَيْلَةً أُخْرَى، وَالنَّاسُ يُصَلُّونَ بِصَلاَةِ قَارِئِهِمْ، قَالَ عُمَرُ: «نِعْمَ البِدْعَةُ هَذِهِ، وَالَّتِي يَنَامُونَ عَنْهَا أَفْضَلُ مِنَ الَّتِي يَقُومُونَ» يُرِيدُ آخِرَ اللَّيْلِ وَكَانَ النَّاسُ يَقُومُونَ أَوَّلَهُ