Był francuskim aktorem, producentem i reżyserem filmowym, którego kariera trwała 70 lat. Był chwalony jako jeden z największych francuskich aktorów charakterystycznych swojego pokolenia, który grał różnorodne role i pracował z wieloma uznanymi reżyserami, otrzymując nagrodę dla najlepszego aktora na Festiwalu Filmowym w Cannes i Srebrnego Niedźwiedzia dla najlepszego aktora na Festiwalu Filmowym w Berlinie.
Piccoli urodził się w Paryżu w muzycznej rodzinie; jego francuska matka była pianistką, a szwajcarski ojciec skrzypkiem z kantonu Ticino.
Zagrał wiele różnych ról, od uwodziciela przez policjanta po gangstera i papieża, w ponad 170 filmach. Wystąpił w sześciu filmach wyreżyserowanych przez Luisa Buñuela, w tym w Belle de Jour (1967) i Dyskretnym uroku burżuazji (1972), ale pojawił się także jako mąż Brigitte Bardot w Pogardzie (1963) Jean-Luca Godarda i jako główny antagonista w Topazie (1969) Alfreda Hitchcocka[3].[Pojawił się także w wielu filmach Claude'a Sauteta, czasami grając w nich z Romy Schneider, i stał się częstym współpracownikiem reżysera Marco Ferreriego, z którym pracował nad kilkoma filmami, w tym Dillinger Is Dead i La Grande Bouffe.
W latach 90. Piccoli pracował także jako reżyser przy trzech filmach. Jedną z jego ostatnich głównych ról był portret przygnębionego, nowo wybranego papieża w filmie Nanniego Morettiego Mamy papieża (2011), za który otrzymał nagrodę David di Donatello dla najlepszego aktora.