Al igual que su hermano Miguel Albiol, se formó en las categorías inferiores del Ribarroja CF, hasta que fue fichado por el Valencia Club de Fútbol para su fútbol base. Debutó con el primer equipo el 24 de septiembre de 2003 con dieciocho años recién cumplidos en una eliminatoria de la Copa de la UEFA ante el AIK Solna, temporada en la cual, el Valencia CF salió campeón del torneo. No obstante siguió formando parte de la plantilla del CD Mestalla, filial del Valencia CF.

Para adquirir experiencia en primera división fue cedido al Getafe CF en la temporada 2004-2005. El 2 de agosto del 2004, durante el viaje a la localidad madrileña sufrió un accidente de circulación por el que tuvo que ser intervenido tras serle diagonsticados politraumatismos dorsal y lumbar, y un derrame interno que obligó a la extirpación bazo, además estuvo durante un tiempo en coma. No obstante, la cesión se firmó y aunque se llegó a temer por su carrera profesional debutó en la liga cuatro meses después del accidente.

Esto fue debido a que su entrenador, Quique Sánchez Flores, siempre confió en él y, cuando fichó por el Valencia CF, exigió el retorno de Albiol a su club de origen.

Los inicios de Albiol en el Valencia CF fueron duros ya que su posición natural en el equipo che la ocupaban dos jugadores de la calidad de Albelda y Baraja por lo que el técnico le alineó como lateral derecho. Aunque cumplía correctamente su misión se le notaba extraño en su nueva posición hasta que Quique Flores le reubicó como central, puesto del que no se ha movido desde entonces.

El 25 de abril de 2006 anunciaba su renovación con el Valencia CF hasta el 2011. El Real Madrid estuvo muy interesado en hacerse con sus servicios, pero el jugador prefirió renovar por el Valencia CF a pesar de que la oferta merengue era muy superior. Ahora posee una cláusula de recisión de 60 millones de euros. En la temporada 2006-2007, hasta los cuartos de final de la Liga de Campeones, ha disputado todos los minutos con una actuación impresionante en los octavos de final contra el Inter de Milán, donde el Valencia CF pasó de ronda.

Ha terminado la temporada 2006-07 siendo titular indiscutible y siendo el jugador que más minutos ha jugado entre las competiciones de la Liga, la Copa del Rey y la Liga de Campeones en las demarcaciones de central y mediocentro defensivo.

En junio de 2009, Albiol es fichado por el Real Madrid, por la cifra de 15 millones de euros, como parte del proyecto del nuevo presidente Florentino Pérez, que regresó a la presidencia del Real Madrid el 1 de junio de 2009.

El jueves 2 de julio es presentado en el Estadio Santiago Bernabéu a las 21.00 horas ante unas 9.000 personas. Raúl recibía la camiseta con el dorsal 18, número que llevó Rubén de la Red, declarando Raúl que si aquél volviera otra vez al equipo, le devolvería el dorsal.

Tras haber sido internacional sub-21, el 5 de octubre de 2007 es llamado por primera vez para una convocatoria con la selección española para disputar un partido de la fase de clasificación de la Eurocopa 2008. Debuta el 13 de octubre de 2007 en el partido contra Dinamarca en Aarhus (Dinamarca), con resultado 1-3 a favor de los españoles.

El 14 de junio de 2008 debuta en una fase final de la Eurocopa al sustituir a Carles Puyol en el partido que España ganó a Suecia por un resultado de 2-1. Posteriormente jugaría de titular en el último encuentro de la fase de grupos ante Grecia, partido que concluiría con victoria española por dos tantos a uno.

El 29 de Junio de 2008 en el Estadio Ernst Happel de Viena, Albiol se proclamaría junto a sus compañeros de selección campeón de la Eurocopa 2008.