È situato esattamente nel centro, tra le due piazze principali, Cavour e Masaccio, affacciandosi sulla via principale del centro, Corso Italia. L’impianto medievale è stato rimaneggiato già nel quattrocento; nel corso degli anni ottanta il palazzo ha goduto di lavori di restauro. È sede di alcuni uffici comunali e di mostre d’arte. Il piano terreno è recintato su tutti i lati da un ampio porticato, con quattro arcate sulle facciate e sei sui fianchi, scandite da pilastri ottagonali ornati da stemmi della città dominante (il giglio fiorentino) e dalla parte guelfa (l’aquila guelfa). Nell’atrio è conservato l’originale del Marzocco, la statua su alto piedistallo in pietra che rappresenta il dominio fiorentino: un leone seduto che regge con la zampa lo scudo gigliato. Originariamente posto in piazza Cavour; di fronte al palazzo, è ora sostituito da una copia e custodito all’interno del Palazzo Pretorio.
Alle pareti dell’atrio affreschi e stemmi dipinti del Quattrocento. Il primo piano presenta sulle facciate due loggiati su colonne e capitelli di gusto rinascimentale. Una torre emerge dal centro della parete posteriore, con duplice ordine di finestre e coronamento merlato. Palazzo d’Arnolfo ha una bellezza eccentrica per le abitudini costruttive toscane, rifacendosi più a modelli settentrionali che del centro Italia; il suo fascino è indubbiamente aumentato dai numerosissimi stemmi di vicariato che costellano la facciata principale: duecentocinquanta quelli rimasti, dal più antico del 1410 al più recente del 1772, in pietra, ceramica, taluni scolpiti nelle colonne e nei pilastri, altri dipinti. Su piazza Masaccio si affacciano la Basilica di Santa Maria delle Grazie, la chiesa di San Lorenzo ed il Palazzaccio. Quest’ultimo, detto anche Palazzo Salviati, è di origine trecentesca con successive rielaborazioni. La facciata ricorda modelli dell’architettura toscana tardo-rinascimentale nella triplice sovrapposizione di loggiati ed archi ribassati nei primi due ordini, e architravato a guisa di terrazza terminale il terzo.
Attualmente Palazzo d'Arnolfo è sede del Museo delle Terre Nuove.