RahXephon sigue a Ayato Kamina, un estudiante de instituto corriente cuya vida cambia cuando Tokio es atacado por cazas futuristas y queda atrapado en una guerra secreta. Tras el ataque, conoce a Haruka Shitow, miembro de la organización gubernamental TERRA, quien le explica que la ciudad ha sido sellada dentro de una burbuja temporal conocida como Tokyo Jupiter por los Mulians, humanoides de otra dimensión que intentan aislar y tomar el control de Tokio. Mientras TERRA lucha por atravesar la barrera y recuperar la ciudad, Ayato se ve arrastrado a un conflicto que no comprende.
Su búsqueda de respuestas lo lleva hasta Reika Mishima, una compañera de clase que lo guía al Santuario de Xephon, donde yace inerte un gran huevo. Cuando ella comienza a cantar, una fuerza desconocida despierta en Ayato y lo conecta con RahXephon, un ser misterioso que emerge del huevo. Haruka pronto vuelve a encontrarlo y le pide que se una a su lucha contra los Mulians, pero cuanto más se adentra Ayato en este mundo, más difícil le resulta confiar en sus propios recuerdos.
Atrapado entre TERRA y los Mulians, Ayato debe enfrentarse a la verdad que se oculta tras Tokyo Jupiter y a la posibilidad de que su propia identidad esté ligada al destino de la ciudad.