Les auteurs s'accordent à faire dériver ce nom de famille du toponyme Palerme, capitale de la Sicile. E. De Felice signale que le nom est fréquent en Sicile et dans le sud de l'Italie, tandis que la forme variante Palermi est rare et sporadique dans le centre-nord du pays.

F. Miranda apporte le parcours historique du toponyme : les Phéniciens appelèrent la ville Zyz, évoquant le profil d'une fleur formé par deux rivières ; les Grecs la nommèrent Panormus, qui signifie « tout-port », car ces mêmes rivières créaient un grand mouillage naturel. Le nom arabe fut Balam et le normand Balermus, jusqu'à devenir Palerme. Miranda ajoute que le nom se répartit largement en Italie, avec une présence en Lombardie, en Campanie, dans les Pouilles, dans le Latium, dans le Piémont, en Basilicate et en Toscane, en plus de la Sicile, où il est attesté dans les zones de Trapani, de Catane, d'Agrigente et de Palerme, ainsi que dans plusieurs communes de la zone d'Enna.

G. P. Holmes s'accorde sur l'origine toponymique et souligne que le nom de la ville a une racine grecque.