Josef Mayr wurde am 27. Dezember 1910 auf dem Nusserhof am Bozner Boden geboren. Nach dem Abschluss der Handelsschule wurde er kaufmännischer Angestellter in Bozen. Er hat sich persönlich weitergebildet, wobei sein Interesse vor allem der Astronomie und der Theologie galt.
Seine Vorbilder waren Thomas von Aquin, der englische Lordkanzler Thomas Morus und der Tiroler Freiheitsheld Peter Mayr, der sein Leben nicht durch eine Lüge erkaufen wollte. Josef beeindruckte stets durch seinen tiefen Glauben.
Josef Mayr trat 1932 der Bozner Vinzenzkonferenz bei, denn er sah darin eine Gelegenheit, sein Christsein im Alltag zu leben. Als 1935 am Bozner Boden eine eigene Vinzenzkonferenz gegründet wurde, bestellte man ihn zu deren Präsidenten.