En 1753 va començar a cursar estudis superiors al Kings s College de la Universitat d’Aberdeen i més tard a Edimburg, sense arribar a obtenir cap grau. L’any 1760 es va iniciar com a escriptor amb Fragments of Ancient Poetry collected in the Highlands of Scotland (Fragments d’antiga poesia recollida a les Terres Altes d’Escòcia), que deia haver traduït de l’gaèlic; aquest mateix any va obtenir més manuscrits i en 1761 va afirmar haver trobat un poema èpic sobre el rei Fingal escrit pel bard cèltic Ossian, que va publicar amb el títol Fingal en aquest mateix any; després va publicar Temora (1763), una altra presumpta traducció, i per fi l’edició de la col·lecció completa d’aquests supòsits manuscrits, The Works of Ossian (Les obres d’Ossian), en 1765. Es creia que aquests llibres eren traduccions de poemes escrits per el bard gaèlic de segle III Ossian (llegiu Oisín), recopilats per Macpherson; però, diversos elements estilístics, històrics i lingüístics van causar controvèrsia entre els medievalistes, alguns dels quals van acusar a Macpherson de falsari i de no voler mostrar les seves manuscrits originals, el que en efecte mai va fer. La qüestió es va contaminar amb rivets polítics quan els irlandesos van entendre que s’intentava assimilar la seva pròpia tradició cultural i nacionalitzar-com escocesa. La polèmica va quedar més o menys definida quan el doctor Samuel Johnson va dictaminar que els poemes d’Ossian eren en realitat una mistificació de Macpherson: composicions medievals unides per textos propis originals compostos ad hoc. Però la polèmica va continuar fins a principis de segle XIX, amb discussions sobre si els poemes es basaven en fonts irlandeses, en fonts escrites en anglès, en fragments gaèlics refosos en el text de Macpherson com va concloure Samuel Johnson o en tradicions orals en gaèlic escocès com afirmava Macpherson. Els estudis moderns tendeixen a creure que Macpherson havia recollit realment balades gaèliques de Ossian, però les va adaptar a la sensibilitat contemporània alterant el caràcter i les idees originals i introduint molt material propi. Molts opinen que la qüestió de l’autenticitat no hauria d’amagar el mèrit artístic intrínsec i el significat cultural dels poemes.
El prestigi de Ossian va ser enorme per als romàntics europeus, els quals, com ja s’ha dit, el van tenir per una espècie d’Homer medieval, i els seus versos van ser una de les lectures preferides de l’escriptor romàntic escocès Walter Scott, dels autors de l’Sturm und Drang Goethe (la traducció d’una part de les obres de Macpherson apareix en una escena important de les penes de el jove Werther) i Johann Gottfried Herder (que va escriure un assaig titulat Extracte d’una correspondència sobre Ossian i les cançons d’antigues gents), de lord Byron i de el mateix Napoleó Bonaparte, a l’semblar un escriptor frustrat. Osian va servir també d’inspiració a l’poeta espanyol José d’Espronceda en la composició del seu poema èpic Óscar i Malvina.
En 1764 Macpherson va ser nomenat secretari de l’governador colonial de Pensacola (Florida) George Johnstone. Va tornar a Gran Bretanya dos anys més tard i, tot d’una querella legal amb Johnstone, se li va permetre conservar el seu sou en forma de pensió. Després va passar a escriure diverses obres històriques, la més important de les quals va ser Original Papers, containing the Secret History of Great Britain from the Restoration to the Accession of the House of Hannover (1775), que porta com a prefaci Extracts from the Life of James II escrit pel mateix monarca. Va rebre un salari per defensar la política de Lord North i va obtenir un lucratiu lloc com a agent de Muhammad Ali, nabab de Arkat. Va entrar a la Cambra dels comuns en 1780 com a diputat per Camelford i en aquest lloc es va mantenir la resta de la seva vida. En 1783 va treballar també per Sir Nathaniel Wraxall. Ja amb una fortuna apreciable, es va comprar una finca, a la qual va donar el nom Belville o Balavil, en el seu natal comtat d’Inverness, on va morir a l’edat de cinquanta-nou anys. Les seves restes van ser traslladades des d’Escòcia a l’abadia de Westminster.