Филиппа Феррари по праву считают одним из величайших коллекционеров всех времен. Его коллекция марок была крупнейшей в мире и включала все известные на тот момент филателистические редкости. До сих пор превзойти коллекцию Феррари не удалось никому и уже врядли удастся.
Он начал коллекционировать почтовые марки в 10 лет, в 1859 году, последовав совету своей матери, в то время одной из самых богатых и знаменитых женщин Европы. После ее смерти в 1888 году он стал наследником многомиллионного состояния. Сначала он покупал марки в Париже и в Брюсселе у местных торговцев. В 1878 году он приобрел за сумму в $15000 одну из самых крупных в мире коллекций почтовых марок — коллекцию Австралийского Губернатора Сэра Дэниела Купера. В том же году он купил коллекцию марок Японии Эдварда Денни Бэкона и несколько редких марок Британской Гвианы у английского торговца Томаса Ридпата. Среди этих марок был впервые обнаруженный годом ранее экземпляр круглой двухцентовой марки, за который Феррари заплатил около $100. Тогда же Феррари стал владельцем самой редкой марки мира — знаменитой одноцентовки Британской Гвианы 1856 года. Он заплатил за нее Ридпату $600.
В 1881 году он приобрел две марки Маврикия 1847 года с надписью Post Office у Жана Баптиста Моэнса за $ 1100.
В 1882 году Феррари целиком приобрел коллекцию Фредерика Филбрика за $ 45000, которая в те годы считалась лучшей в Великобритании и также содержала две марки Маврикия Post Office 1847 года.
В 1893 году Феррари приобрел часть коллекции Артура де Ротшильда за $ 28000, которая тоже содержала несколько марок Маврикия 1847 года с надписью Post Office. Он покупал марки у многих торговцев, среди которых были Стэнли Гиббонс, Альфред Смит, Чарльз Филлипс. В скором времени торговцы со всего мира искали редкие марки для того чтобы отправить их Феррари, который никогда не спорил о цене.
В 1894 году он стал владельцем уникальной Шведской марки с ошибкой цвета 1857 года. Он заплатил за эту марку $ 2000.
В 1916 году он выехал на отдых в южную Швейцарию, взяв с собой несколько альбомов марок, однако когда он захотел вернуться — обнаружил, что Французское правительство отказало ему во въезде в страну. Причиной этому стали его прогерманские симпатии, Австрийское происхождение, Швейцарское гражданство, и наконец, частые антифранцузские высказывания. Любовь Феррари к Германской культуре была настолько же широко известна, как и его нелюбовь ко всему Французскому (хотя это не относилось к людям — у него было много друзей среди французов).
Феррари был вынужден оставить значительную часть коллекции в своей основной резиденции в Париже.
Он завещал свою коллекцию Германскому Почтовому Музею. Он распорядился, чтобы его коллекция могла принимать участие в выставках не раньше чем через 3 года после его смерти, под названием коллекция Арнольда, в отдельной от других коллекций выставочной комнате. Также он хотел, чтобы его коллекция периодически пополнялась, средства для этих целей он оставил администрации Музея.
Феррари умер от сердечного приступа 20 мая 1917 года, в такси, когда возвращался в отель из безрезультатной поездки за редкой Швейцарской маркой. Он был похоронен под именем Филиппа Арнольда.
Однако судьба его коллекции сложилась не так как он предполагал. После смерти Феррари Франция реквизировала его имущество, находящееся в Париже, как вражескую собственность. Артур Хинд предложил Французскому правительству за коллекцию $800000, компания Стэнли Гиббонс — $1000000. Оба этих предложения были отклонены.
Его знаменитая коллекция была продана в Париже и Цюрихе в 1921-25 гг., на достаточно жестких и невыгодных для покупателей условиях. Описание лотов было скудным, не давалось гарантии ни на подлинность, ни на состояние почтовых марок. Вся коллекция была представлена в виде 8058 крупных лотов, некоторые из которых содержали более 10 тысяч марок. Рекламации от недовольных покупателей не принимались. И тем не менее, сумма, вырученная от продажи коллекции составила свыше 23 миллионов французских франков. В числе покупателей марок из коллекции Феррари были многие известные филателисты того времени, среди которых Лихтенштейн, Пэк, Хинд, Аллен, Каспари, Хармер, Буррус и Крокер.