Jan-Ole Gerster déménage en 2000 à Berlin, où il fait un stage à la société de production X Filme et est impliqué en tant qu'assistant personnel de Wolfgang Becker dans le film Good Bye, Lenin!.

Il commence ses études dans les domaines de l'écriture et de la réalisation en 2003 à l'Académie allemande du film et de la télévision de Berlin. Au cours de ses études, il réalise plusieurs courts métrages et coécrit avec Wolfgang Becker le script de l'épisode Krankes Haus pour le film collectif Deutschland 09.

En 2010, il commence à travailler sur son film de clôture, la comédie dramatique Oh Boy avec Tom Schilling dans le rôle principal. Il remporte en 2012 au Filmfest München le prix du meilleur scénario du nouveau cinéma allemand.