Ainda em 1985, Sarney convocou uma Assembleia Nacional Constituinte, que seria formada pelos congressistas eleitos em 1986 e os senadores eleitos anteriormente mas ainda no exercício do mandato (ao todo, 559 parlamentares), e instalada em fevereiro de 1987.

Criou a comissão Afonso Arinos, com 50 notáveis, que elaborou um anteprojeto para subsidiar o trabalho dos constituintes, conforme havia planejado Tancredo Neves. O material, no entanto, foi descartado pelo deputado Ulysses Guimarão, que presidiu a Constituinte. 

Sarney foi crítico do texto no tocante à estrutura do Estado, na qual enxergou dificuldades de governabilidade, embora reconhecendo um grande avanço relativo aos direitos. A nova Constituição Federal foi promulgada no dia 5 de outubro de 1988, e o presidente da República foi o primeiro a jurar cumpri-la.