Sanmicheli si recò in giovane età (intorno ai venti anni) a Roma, probabilmente per lavorare come assistente di Antonio da Sangallo, dove ebbe l'opportunità di studiare la scultura e l'architettura classica. Sanimcheli ebbe la possibilità di spostarsi, probabilmente, grazie anche all'appoggio di due dei suoi fratelli che occupavano posizioni di rilievo nella congregazione dei canonici regolari di Sant'Antonio. Nell'Urbe frequentò l'architetto e intarsiatore Fra Giovanni da Verona, attivo presso la corte papale, e la cerchia dei Bramanteschi. Ben presto ottenne apprezzamenti, tanto che il Vasari scrisse: «in poco tempo divenne, non pure in Roma, ma per tutti i luoghi che sono all'intorno, nominato e famoso».

Nel 1509 si recò ad Orvieto dove rimase per i successivi due decenni. Nel 1512 gli si presentò una grande occasione: gli venne proposto di assumere il ruolo di capomastro presso il cantiere del Duomo di Orvieto, incarico che gli permise non solo di seguire i lavori di una delle opere maggiori dell'Italia centrale, ma anche di essere il successore di una fitta schiera di grandi architetti che avevano preso precedentemente parte al progetto. Questo incarico gli recò un grande prestigio e l'esperienza che ne ricavò, soprattutto nella gestione delle maestranze, gli si rivelerà utilissima quando, in futuro, verrà incaricato della rifortificazione dello stato veneziano.

Sempre nel 1512, con la qualifica di "marmoraio", si recò a Rieti come garante in una controversia per un pagamento ad uno scultore, mentre nel 1516 si spostò a Spello per una stima del ciborio conservato nella collegiata di Santa Maria Maggiore.

Grazie alla fama ottenuta per esser stato capomastro al duomo, Sanmicheli riuscì ad ottenere alcuni importanti incarichi privati, ad esempio il 19 aprile del 1516, sempre ad Orvieto, gli venne commissionata dal mercante senese Girolamo Petrucci la cappella familiare nella chiesa di San Domenico, a cui lavorò fino al 1524 e che divenne una delle sue opere più importanti.

Tra il 1525 e il 1526 lavorò per approntare, su incarico del cardinale Alessandro Farnese, il primo disegno del duomo di Montefiascone, un edificio ottagonale sormontato da una cupola in stile bramantesca, che richiama quello della chiesa di Santa Maria di Loreto a Roma. Di questo edificio rimane traccia solamente del colonnato con trabeazione, a causa dell'incendio del 1670 e della conseguente radicale ristrutturazione ad opera di Carlo Fontana. Durante il tempo trascorso a Montefiascone visse una storia d'amore di cui non parlò molto ma che lo portò ad avere una figlia.

Nei primi mesi del 1526 effettuò, per volere di Clemente VII, una perlustrazione delle fortificazioni dei confini settentrionali dello Stato Pontificio, minacciati da Carlo I di Borbone, a cui seguì una dettagliata relazione sottoscritta con Antonio da Sangallo il Giovane. Dalle fonti esistenti non è immediato capire per quale motivo il papa si rivolse a Sanmicheli piuttosto che ad un'altra persona per un incarico così delicato, anche se molto probabilmente gli venne attribuito grazie a delle raccomandazioni del cardinale Alessandro Farnese o, più probabilmente, per volere dello stesso Antonio da Sangallo. Questo incarico rappresentò una svolta nella sua carriera in quanto ebbe così occasione di visitare le più avanzate architetture militari e di frequentare i più illuminati architetti e ingegneri dell'epoca, che lo influenzarono in maniera determinante nel suo modo di progettare.

Architetto della Serenissima

Terminato il servizio per Clemente VIII Sanmicheli decise di fare ritorno, nel 1527, a Verona: Vasari scrisse che venne il «desiderio a Michele, dopo tanti anni, di rivedere la patria ed i parenti e gli amici, ma molto più le fortezze de' viniziani». Dopo aver trascorso nella città natale alcuni giorni, si recò a Treviso e a Padova per studiarne le architetture militari. Della sua permanenza nella città patavina esiste una leggenda che vuole che sia stato posto agli arresti in quanto sospettato di attività spionistica, visto il suo grande interesse per le strutture difensive. In una sua successiva permanenza a Legnago per il rinnovamento della fortezza incontrò il capitano generale della Repubblica Veneta, Francesco Maria della Rovere, grazie alla cui conoscenza, oltre che alla fama che ormai aveva acquisto, gli venne offerta la carica di ingegnere militare per la Repubblica di Venezia. In questo modo, alla stregua di Jacopo Sansovino, egli divenne un ufficiale salariato della Serenissima: fu così che l'apprezzamento presso i veneziani e la tragedia rappresentata dal sacco di Roma convinceranno Sanmicheli a non fare più ritorno nel Lazio.

Il suo primo incarico in questo ruolo è a Verona (tra il 1526 e il 1528), dove venne chiamato da Giovanni Emo, podestà della città, ad occuparsi del restauro del Ponte Nuovo sull'Adige. Però, intorno alla fine del 1527, la nobildonna Margherita Pellegrini gli offrì di progettare una cappella in memoria del figlio Nicolò presso la chiesa di San Bernardino di Verona: a questo lavoro il Sanmicheli si applicò con notevole entusiasmo, realizzando un'opera molto apprezzata dalla committente. La cappella fu poi oggetto di successivi ritocchi da parte di Bartolomeo Giuliari nel 1793. Il 28 ottobre 1530, quando l'opera privata era ormai completata, venne ufficialmente nominato soprintendente alle fabbriche militari di Verona (carica che manterrà fino alla morte). Con questo ruolo progettò le monumentali porte della città: Porta Nuova (1532), Porta San Zeno (1541) e Porta Palio (1547); inoltre iniziò a trasformare le fortificazioni di Verona usando il sistema a bastioni. Contemporaneamente (tra il 1531 e il 1532) si occupò di studiare e disegnare il riassetto della Cittadella viscontea veronese, in collaborazione con il nipote Giangirolamo Sanmicheli che fu suo fedele collaboratore e continuatore.

Grazie ai lavori compiuti a Verona le capacità di Sanmicheli come architetto militare vennero conosciute e apprezzate anche al di fuori dei confini della Repubblica, fu così che Francesco II Sforza, nel 1531, ottenne il consenso di poterlo avere per una consulenza sulle piazzeforti di Vigevano, Pavia, Alessandria, Lodi e Como per il ducato lombardo. Nel 1539 anche Carlo V fece richiesta alla Serenissima, però respinta, di poter usufruire dei suoi servizi per fortificare Anversa.

La sua fama di architetto è legata non solo a opere a carattere militare, ma anche ad architetture civili di tipo rinascimentale. Infatti, nel 1530, Ludovico di Canossa gli commissionò il progetto di un palazzo nei pressi di Castelvecchio, tra Porta Borsari e l'Arco dei Gavi. Dopo due anni di lavori Sanmicheli completò Palazzo Canossa, a cui seguì poco dopo Palazzo Bevilacqua (non interamente completato), posto dall'altra parte della via. Queste opere servirono anche per la riqualificazione del corso in cui vennero realizzate (l'attuale corso Cavour), tanto che si realizzò la sua pavimentazione nel 1532.

Nel 1531 iniziò degli interventi (che si prolungheranno fino al 1537) sulla cinta muraria di Orzinuovi, mentre nell'anno successivo compì degli studi per le fortificazioni di Treviso e di Brescia, e per la ristrutturazione di piazza Contarena ad Udine. L'anno successivo fu a Padova per degli approfonditi studi che porteranno alla realizzazione dei bastioni Cornaro.

Nel 1533 fu molto attivo a Verona, dove costruì i portali dei palazzi del Capitanio e del Podestà e ristrutturò la sua abitazione famigliare; si recò, inoltre, a Pesaro e a Senigallia per delle consulenze riguardo al porto.