Llevó adelante los primeros estudios en un convento de dominicos de Mendoza, de cuya comunidad formaban parte sus tíos, los frailes Domingo y Pedro Pedernera. Cuando le llega la noticia de que el general José de San Martín organizaba el ejército de los Andes fugó del convento para llegar al campamento y es aceptado el 1 de setiembre de 1815 como soldado en el regimiento de granaderos a caballo. Siendo cadete del mismo, el 19 de enero de 1817, integró las fuerzas que iniciaron el cruce de los Andes para liberar a Chile.
En la batalla de Chacabuco tuvo brillante comportamiento, por lo que San Martín lo ascendió a alférez. Se halló en Cancha Rayada y Maipú revistando con el grado de teniente. Hizo la segunda campaña del sud de Chile hasta marzo de 1819, a las órdenes del general Antonio González Balcarce. Asistió a la batalla de Bio-Bio, en la cual fueron completamente derrotados y deshechos los últimos restos de las tropas realistas. Se embarcó en Valparaíso con el Ejército Libertador e intervino en la campaña del Perú; estuvo en la toma de la ciudad de Lima y del Callao. Pedernera ascendió a ayudante mayor el 29 de diciembre de 1821. Luego sirvió en el Escuadrón de Húsares de la escolta de San Martín que fue la base del Ejército Peruano. En ese mismo año pasó a denominarse “Regimiento de Húsares de la legión Peruana de la Guardia”. El 25 de mayo de 1822, se encontró en el combate de Ica, a las órdenes del comandante Pedro Raulet, donde se portó valientemente arrollando con 200 húsares a toda una división realista mandada por el general Carratala. Esta acción le valió el título de héroe de Ica, con el que fue aclamado por sus compañeros, en mérito de lo cual poco después se le extendió el grado de sargento mayor, el 20 de julio del mismo año. El 23 de mayo de 1823, se embarcó en el puerto del Callao en el Regimiento de Húsares que formaba parte del ejército expedicionario confiado a la dirección del general Andrés Santa Cruz, el cual, habiendo desembarcado en Arica, emprendió su campaña sobre el Alto Perú. Deshecha y perseguida la división de Santa Cruz por los realistas, lograron pasar a Moquehua para embarcarse en la fragata “Mackenna” que fue apresada por el bergantín corsario “Valdez” llevando a los prisioneros a Chiloé, entre los que se contaba Pedernera. Enfrentando grandes peligros logró fugar de la isla de Chiloé, incorporándose al Ejército Libertador del Perú en octubre de 1824. Peleó en el combate de la Legua. Con el Regimiento de Dragones del Perú, el 16 de febrero de 1825, participó en el combate de Miranave, en el cual recibió dos graves heridas de lanza.
En 1826, cargado de laureles y con el grado de coronel regresó a Buenos Aires. A raíz de la guerra con el Brasil se enroló en el ejército republicano como jefe del Regimiento 8 de Caballería con el que participó en el combate de los Potreros del Padre Filiberto. Terminada la guerra, el 2 de enero de 1829, fue nombrado coronel del Regimiento 2 de Caballería. Pedernera acompañó al general Lavalle en el movimiento que derrocó a Dorrego, distinguido en el combate de Navarro. Formó parte de la división del general Paz que salió de Buenos Aires con destino al interior. Participó en la acción de San Roque contra Bustos, y en la batalla de La Tablada, donde tuvo brillante actuación. Intervino en el encuentro de Laguna Larga y en la acción de Fraile Muerto, siendo batido por el coronel Ángel Pacheco, mandando aquél la vanguardia de Paz. Caído prisionero éste, tomó la dirección del ejército el general La Madrid, y en el combate de Río Hondo, Pedernera fue recomendado al gobierno.
Volvió a empuñar las armas en la batalla de la Ciudadela de Tucumán, el 4 de noviembre de 1831, en que su ejército sufrió una espantosa derrota por las fuerzas de Quiroga. Emigrado del territorio argentino, entró en Bolivia donde el mariscal Santa Cruz le otorgó una noble acogida. En marzo de 1834, se reincorporó al ejército del Perú. Tomó parte en la batalla de Guaylacucho bajo las órdenes del general Orbegoso. En 1836, intervino en el sitio del Callao. Al mando del presidente Orbegoso, concurrió al combate de Portada de Guía, e intervino en el Puente de Buin. Hizo toda la campaña de la Confederación Perú-Boliviana, y como ésta fuera vencida en Yungay, librada el 20 de enero de 1839, el presidente Gamarra deportó a Pedernera a Chile. Atravesó los Andes y se presentó en La Rioja al general Brizuela, como jefe supremo de la Liga del Norte. Acompañó a Lavalle en Famaillá donde peleó con denuedo, y se llenó de gloria. Lo siguió hasta Jujuy en toda la larga y cruenta guerra contra Rosas. Fue el jefe de los compañeros del mismo Lavalle que condujeron el cadáver de éste hasta Potosí para darle allí sepultura.
Incorporado nuevamente al ejército peruano en 1843, permaneció en aquel país hasta después de la caída de Rosas. De regreso a Buenos Aires, ocupó el cargo de senador al Congreso, en representación de su provincia, en marzo de 1855. El 7 de julio de igual año fue promovido a brigadier general. En 1856 fue nombrado comandante en jefe de la División del Sud y fronteras de las provincias de Córdoba y San Luis. De acuerdo con el gobernador Justo Daract fundó el Fuerte Constitucional, y al año siguiente el Fuerte Tres de Febrero como un ensayo de colonia militar.
El 9 de abril de 1859 fue elegido gobernador de San Luis, cargo que ejerció hasta el 2 de junio del mismo año, época en que salió a campaña para atender la seguridad de la Provincia. Estuvo en la batalla de Cepeda que significó el triunfo de la Confederación; firmó junto con el general Guido y el doctor Daniel Aráoz, el tratado de San José de Flores, el 11 de noviembre de ese año.
En los acuerdos políticos llevados adelante para dar continuidad a la ejecución de los principios constitucionales, el 29 de febrero de 1860 fue elegido vicepresidente de la República integrando la fórmula con el Dr. Santiago Derqui. Por ausencia del titular, en varias ocasiones debió ejercer la presidencia de la República, en ese gobierno que apenas duró años y medio. En esa función siempre demostró ecuanimidad y eficiencia.
El 21 de octubre Buenos Aires, ya con Bartolomé Mitre como gobernador, juró la Constitución nacional reformada y llamó a elecciones para elegir a los diputados nacionales por Buenos Aires.
Pero durante 1861 el Congreso Nacional rechazó la incorporación de los diputados porteños, ya que habían sido elegidos siguiendo las reglas electorales de la provincia y no las establecidas por la Constitución Nacional.
Este conflicto condujo a un nuevo enfrentamiento armado entre Buenos Aires y la Confederación. El choque entre los dos ejércitos se produjo en Pavón, al sur de Rosario, el 18 de septiembre de 1861. Cuando el resultado de la batalla todavía no estaba definido, Urquiza se retiró del campo de batalla, dejando la victoria en manos de los porteños.
Sin aliados dispuestos a defenderlo, Derqui renunció y se marchó al Uruguay quedando el país en manos del vicepresidente Juan Esteban Pedernera. Agobiado por las fuerzas porteñas, sin poder hacer nada y en soledad, firma el decreto disponiendo el fin de la Confederación.
Quedaba el camino expedito a Mitre que asumió provisoriamente la presidencia de la Nación, cargo para el que fue confirmado en las elecciones nacionales de 1862. Así, la Confederación dejó de existir y se produjo la reunificación nacional, pero bajo el liderazgo del proyecto liberal porteño. Se inició entonces una nueva etapa, la de la República Argentina.
En su larga residencia peruana se casó con doña Juana Rosa Heredia, llamada “la limeña”, con al que tuvo siete hijos: Federico Juan (14/ene/1830), Juan Federico (Tacna, 1832), Félix Braulio (Lima, 1834), Gregoria Ercilia, Adela Trinidad (Lima, 1840), Julio Lucio (Lima, 9/jun/1845) y Margarita Rosa Carolina (Lima, 12/feb/1847).
Habiendo enviudado, forma nueva familia con Manuela Álvarez Heredia con la que tuvo una hija: María Adelaida (Lima, 1851).