The Strongest Sage with the Weakest Crest se centra en Mathias Hildesheimer, la reencarnación de Gaius, un sabio legendario que en su momento estuvo en la cima del poder mágico. En una época en la que los magos nacen con uno de cuatro emblemas, Gaius dedicó su vida a la magia de creación, pero llegó a convencerse de que un emblema concebido para el combate directo era la clave para alcanzar todo su potencial. Para perseguir ese ideal, opta por la reencarnación y despierta miles de años después como Mathias, por fin portando el emblema que tanto había deseado.
El mundo que recibe a Mathias ha cambiado hasta volverse irreconocible. La magia se ha debilitado, las técnicas que antes definían la era de los héroes ahora se consideran mitos, y el emblema que antaño persiguió es despreciado como el más débil de todos. Cuando se matricula en la Segunda Academia de la capital real, su habilidad abrumadora en todas las pruebas lo vuelve imposible de ignorar, e igual de imposible de considerar digno de confianza. A medida que Mathias avanza en la academia, empieza a sacar a la luz las fuerzas que están detrás del declive de la humanidad y a los demonios vinculados con aquella era olvidada. La serie sigue su empeño por demostrar que el conocimiento perdido sigue siendo importante, mientras la distancia entre la antigua era de la magia y el presente se ensancha a su alrededor.