Nació en Tucumán el 29 de agosto de 1810, hijo de un comerciante español y una patricia tucumana, doña Josefa Aráoz y Valderrama. Se lo considerada como el "Padre de la Constitución Nacional Argentina".
Su primer contacto con la lucha por la emancipación de nuestro país será a través de Belgrano, quien frecuentaba el hogar de los Alberdi. Juan Bautista reconocerá en el gran militar un padrino, y dedicará numerosas páginas a defender ante la historia la figura del Creador de la Bandera. Estudió inicialmente en el Colegio de Ciencias Morales de Buenos Aires, aunque no terminó los cursos, que abandonó en 1824. No tardaría mucho en decidirse por los estudios del derecho, y hacia 1840 recibió su diploma de Abogado en Montevideo.
A pesar de estos estudios, Alberdi puede ser considerado un autodidacta. Rechazó con vehemencia la mediocridad de la Academia de Derecho de Buenos Aires, cuyos cargos docentes estaban ocupados por españoles de dudosa calidad académica. Entonces, decidió que haría los estudios por propia cuenta, sin tutores ni maestros.
En 1940 partió hacia Europa, donde residiría por poco tiempo. Volvió a América en 1843 y se asentó en Valparaíso (Chile) donde ejerció la abogacía con éxito profesional, ganando un alto prestigio entre la sociedad local. Para esa época publicaría su primera obra importante: Fragmento preliminar al estudio del Derecho, tesis doctoral publicada en Buenos Aires en 1837 y que puede considerarse como la primera del corriente historicismo de la literatura jurídica argentina, superada de la doctrina clásica que concebía al sistema de leyes como inmutable. El historicismo, por contrario, consideraba al sistema jurídico como un elemento dinámico y continuamente progresivo de la vida social. En Chile, además, publica una memoria llamada Sobre la conveniencia y objetos de un Congreso General Americano. En esta obra propugna, la unión americana, a través de diversas herramientas administrativas y jurídicas, por ejemplo, la unión aduanera.
En este período escribió obras tales como: Ejecuciones y quiebras en Chile y La Magistratura y sus atribuciones. Por esos años, Alberdi hizo las veces de periodista escribiendo numerosos artículos costumbristas con el seudónimo de "Figarillo".
Luego de una breve estadía en la Argentina, comenzó en 1838 un exilio voluntario en Montevideo, con motivo de su decisión de no jurar adhesión al régimen federal. Será en Uruguay donde comience la redacción de una obra sobre derecho público, materia prácticamente ausente en el país y fundamental, según Alberdi, para la constitución de las normas rectoras de la sociedad nacional. Para eso, estudiará la historia, el derecho, la política y la economía de Estados Unidos e Inglaterra, con atención especial a la evolución de las instituciones jurídicas a lo largo de la historia. En 1852 publica las Bases y puntos de partida para la organización política de la República Argentina, el tratado más importante de derecho público americano y que sería elogiado entusiastamente por los más distinguidos publicistas de todo el mundo. Las Bases, notoriamente influidas por el derecho constitucional norteamericano, serán el esqueleto de la Constitución Nacional Argentina, nacida en 1853 y cuyos hacedores leyeron y releyeron la obra de Alberdi. Tanto que la segunda edición de las Bases, de setiembre de 1852, serán ampliadas con un proyecto de Constitución Nacional, que los constituyentes de Santa Fe usarán como modelo un año más tarde.
En manos del General Urquiza, las Bases se distribuyeron rápidamente por todo el país. De modo manifiesto, interpretaron el anhelo generalizado de organización nacional del pueblo argentino y sirvieron para que la Confederación estableciera una estructura institucional que cohesionara a las provincias. Excepto Buenos Aires, que adheriría al nuevo sistema jurídico recién en 1860, las Bases fueron aclamadas por intelectuales, políticos y juristas de todo el país. Poco tiempo después, Alberdi publicó Elementos de derecho público provincial para la República Argentina, que sería el complemento de las Bases y que marcarían el establecimiento definitivo del derecho público nacional.
Encomendado por Urquiza, Alberdi viajó a Europa en misión diplomática. Su cometido era evitar que las naciones europeas reconocieran a Buenos Aires como nación independiente. La tarea fue cumplida con éxito por Alberdi, pero cuando Mitre llegó al poder, decretó la caducidad de todos los mandatos diplomáticos en Europa.
Regresó al país en 1878, cuando Tucumán lo eligió diputado nacional. Para entonces, habían pasado 14 años de su labor diplomática, y los tiempos políticos habían cambiado. Tanto, que el mismísimo Sarmiento envió a su secretario personal a recibir al ilustre publicista al puerto, para darle la bienvenida. En el Congreso, al día siguiente, Alberdi y Sarmiento se estrecharon en un abrazo.
El odio de Mitre aún no había mermado, sin embargo, y en 1880, cuando el presidente Roca solicitó al Congreso la edición de las obras de Alberdi, desde "La Nación" Mitre comenzó nuevamente la guerra. Los mitristas negaron también a Roca el acuerdo para nombrar a Alberdi representante diplomático en París.
Estos hechos lo empujaron a abandonar nuevamente la Patria. Marchó a París, con el cargo de Comisario de Inmigración otorgado por el gobierno, pero sin fuerzas, ni recursos.
Falleció en un suburbio parisino el 19 de junio de 1884.