Sarney filiou-se ao Partido Social Democrático (PSD), pelo qual, em 1954, iniciou-se na política sendo eleito suplente de deputado federal. A seis de junho de 1955, assumiu pela primeira vez a cadeira no plenário do Palácio Tiradentes, sede da Câmara dos Deputados. Os breves períodos se sucederam nos anos seguintes, até 1958.

Pouco depois, Sarney trocou o PSD, que voltara a abrigar seu adversário Vitorino Freire (político que controlava o Maranhão), pela União Democrática Nacional (UDN). A mudança significava também a oposição ao Governo Federal, que tivera uma pedra de toque maranhense: a candidatura de Assis Chateaubriand. O grande jornalista perdera a eleição na Paraíba. Repetindo o que fizera em 1952, provocando uma nova eleição pela renúncia de um dos senadores do Estado e de seu suplente, obteve a renúncia do senador Alexandre Bayma e de seu suplente, Newton Bello. A vitória obtida a fórceps com a humilhação da política maranhense dobrou a dose com sua renúncia em 1957 para ser embaixador do Brasil em Londres.