Les auteurs s'accordent à faire dériver ce nom de famille du mot latin oliva, en référence au fruit ou à l'arbre de l'olivier (Olea europaea), avec des motivations diverses à son origine : il pouvait renvoyer à celui qui produisait ou vendait des olives, à des personnes au teint olivâtre, ou à ceux qui vivaient près des oliveraies ou les cultivaient. E. De Felice et F. Miranda signalent en outre que, pour beaucoup de noms de ce groupe, la base n'est pas le fruit ou l'arbre directement, mais des toponymes formés à partir d'oliva et d'ulivo, comme Oliva Gessi, Oliveto ou Olivetta San Michele.

De Felice et Miranda s'accordent à considérer que, dans la Sicile occidentale, le nom peut dériver de sainte Olive, martyre de Palerme. Miranda ajoute que le prénom fut probablement introduit par les Normands — la forme Olive était courante dans la France médiévale — et qu'il est lié au culte de sainte Rosalie, souvent représentée avec un rameau d'olivier.

E. Rossoni indique que le nom peut aussi dériver du prénom de la Renaissance Ulivus, Olivus ou Oliva. R. Brondolo propose, pour sa part, que le nom procéderait d'un matronyme Oliva, origine attestée dans le nord de l'Italie.

Le nom a des origines indépendantes dans différentes régions d'Italie. Il est très répandu dans toute la péninsule, avec une présence particulièrement forte dans le Sud. Rossoni atteste les Conti Oliva à Pennabilli, dans la zone de Pesaro-Urbino, dès l'an 1500, et une présence familiale dans le nord de la zone de Côme dès l'an 1600.