Cuando en 1976, aún en la clandestinidad, el Partido decide celebrar en Madrid su XXVII Congreso, el PSOE está jugando ya un papel fundamental en la vida política española. La legalización del Partido Socialista se produce en febrero de 1977.

La creación, junto con otros partidos democráticos, de una coordinadora común de oposición y negociación, obliga a abrir un proceso de reforma política que desemboca en las elecciones democráticas de 1977, en las que triunfa la UCD, de Adolfo Suárez, mientras el PSOE se consolida como el primer partido de la oposición, lo que supuso una sorpresa para muchos que auguraban que sería el Partido Comunista el que llevase las riendas de las fuerzas de izquierda en España.

Tras las primeras elecciones, los partidos afrontan la tarea de elaborar una nueva Constitución. Esta nueva Carta Magna fue sometida a referéndum el 6 de diciembre de 1978, siendo aprobada por el 87’7 por ciento de los votos. Para su consecución fue necesario la comprensión de todas las sensibilidades nacionales existentes en ese momento y sobre todo, que cada una de ellas cediese lo necesario como para que el resultado final consiguiese satisfacer a todos. La figura del socialista Gregorio Peces-Barba, como uno de los redactores de la Constitución Española, fue fundamental en todo este proceso. El socialismo, a través de una de sus figuras más significativas de los últimos años, volvía a estar presente en uno de los momentos cruciales de la historia contemporánea de nuestro país.

En 1979, la UCD volvió a ganar las elecciones, pero en esta ocasión por un estrecho margen. El PSOE quedó en segundo lugar con más de cinco millones de votos y 120 diputados. El aumento progresivo de los apoyos al Partido Socialista hizo que en las elecciones municipales de ese mismo año el PSOE ganara en 1.100 municipios, y pasara a gobernar muchas de las principales ciudades de España.

Especial relevancia tiene el XXVIII Congreso Federal del PSOE, celebrado en mayo de 1979. En él se produce un tenso debate sobre la estrategia y la orientación ideológica marxista, que lleva a Felipe González a no presentar su candidatura como Secretario General, formándose una comisión gestora con el mandato de preparar un Congreso Extraordinario que se celebraría poco después.

En ese Congreso Extraordinario, el PSOE reafirma su carácter de partido democrático y federal, rechazando definirse como marxista y manifestándose abierto a todas las aportaciones que han contribuido a configurar el socialismo. El Congreso elige una nueva Comisión Ejecutiva encabezada por Felipe González.

La crisis progresiva de la UCD y el intento de golpe de Estado del 23 de febrero de 1981 agudizan en la opinión pública la necesidad urgente de un cambio político. Se convocan elecciones generales para el 28 de octubre de 1982, y el PSOE consigue más de diez millones de votos, obteniendo la mayoría absoluta tanto en el Congreso (202 diputados) como en el Senado (134 senadores, a los que más tarde se sumarían otros 23 designados por las Comunidades Autónomas). Esto supondría el 48,11 % de los votos.

El día 1 de diciembre de 1982, Felipe González es investido en las Cortes presidente del primer Gobierno socialista en la historia de España.