James Whelan va néixer el 28 de desembre de 1823 a Kilkenny, a Irlanda, en el si d’una família catòlica. Va rebre els seus primers estudis fins als deu anys a la seva ciutat natal. Als 12 anys d’edat, Whelan va haver de migrar amb la seva família cap als Estats Units. Es van establir a Nova York. Allà va conèixer l’Ordre de Predicadors, a la qual va ingressar en 1839. Va fer la seva noviciat a Springfield (Kentucky), on va professar els seus vots religiosos el 1842. Va estudiar la filosofia i la teologia al convent de Somerset (Ohio).
Completats els seus estudis de teologia, Whelan va ser ordenat sacerdot el 2 d’agost de 1846 pel bisbe John Baptist Purcell, de la diòcesi de Cincinnati. Va exercir els següents càrrecs eclesiàstics: missioner (1846-1852), rector de la St. Joseph s College a Somerset (1852-1854) i superior de la província dominica de Sant Josep (1854-1858).
El papa Pius IX, el 15 d’abril de 1859, va nomenar a Whelan bisbe coadjutor per a la diòcesi de Nashville, a el temps que ho va fer bisbe titular de Marcopolis. Va ser consagrat el 8 de maig de el mateix any, de mans de Peter Richard Kenrick, arquebisbe de San Luis, a la Basílica de Sant Lluís, rei de França. Durant el seu episcopat va fundar una acadèmia, un internat i un orfenat. A més, va donar suport a la institució de les Dominiques de la Congregació de Santa Cecília.
Whelan va ser acusat de donar suport a l’Exèrcit de la Unió en contra dels Estats Confederats d’Amèrica. Whelan, a causa dels sofriments que li va ocasionar la guerra, va renunciar a la seu Nashville el 12 de febrer de 1864. Va ser nomenat bisbe titular de Diocletianopolis, mentre va romandre com a bisbe emèrit de Nashville. Va morir el 18 de febrer de 1878. Whalen és l’autor de Catena aurea: or, A golden chain of evidences demonstrating from “analytical treatment of history,” that papal infallibility is no novelty; a memorial of the Papal jubilee, June 16, 1871 to honor the “annos Petri complets” of our Holy Father, Pope Pius the Great, una defensa històric crítica d’el dogma de l’Infalibilidad papal.