Jean Rott est né à Avricourt en Moselle où son père était pasteur mais resta toute sa vie durant profondément attaché à sa région d'origine, l'Alsace, car il était issu d'une famille paysanne d'Outre-Forêt. Historien, archiviste et paléographe éminent, il a été formé à l'Ecole des Chartes dont il est sortit major et il consacra sa vie à l'histoire de sa province.

Nommé secrétaire du Centre de recherches historiques alsaciennes à Strasbourg en 1937, ses travaux furent interrompus par la Seconde Guerre mondiale. Incorporé en 1939, fait prisonnier, il fut libéré en 1940 et accepta un poste d'archiviste aux Archives Régionales de Strasbourg. Son refus d'être incorporé dans la Waffen-SS lui valu d'être emprisonné par la Gestapo et déporté dans le pays de Bade.

Après la guerre, il devint bibliothécaire à la Bibliothèque nationale et universitaire de Strasbourg (1946-1964), où il mit sa connaissance des manuscrits et des imprimés anciens au service de nombreux chercheurs. Cependant, sa véritable passion était la recherche sur l'histoire religieuse de Strasbourg au XVIe siècle, à l'époque où la ville était un foyer majeur de la Réforme protestante.

Détaché au CNRS pour se consacrer entièrement à ses travaux, il entreprit deux projets monumentaux : l'édition de la correspondance de l'humaniste Jean Sturm et, surtout, celle du réformateur Martin Bucer. Il retrouva des milliers de lettres à travers l'Europe et commença leur publication. Conscient de l'ampleur de la tâche, qu'il estimait à près de 30 volumes pour Bucer, il forma une équipe pour poursuivre son œuvre.

Auteur de plus de cent cinquante études précises et novatrices, Jean Rott devint une autorité mondialement reconnue, bien qu'il soit resté humble et indifférent aux honneurs. Il poursuivit son travail scientifique avec ardeur jusqu'à sa mort à la suite d'un refroidissement le 11 juillet 1998.

D'après Note biographique de Christian Wilsdorf dans Persée