Faraglioni della Madonna
Le Grotte di Pilato sono cunicoli scavati nella roccia lungo la costa, si visitano solo in barca; si tratta di un insieme di tunnel collegati da una piscina centrale che sembra fosse un murenaio Romano, cioè una vasca di allevamento per i pesci. Gran parte della struttura è oggi sommersa. Le opinioni sono discordanti, in quanto la struttura con gli scalini, i marmi e le colonne giacciono sul fondo della piscina e ciò lasciano pensare che si tratti di bagni privati collegati alla villa di Ottaviano Augusto, situata sul costone soprastante. La piscina venne scavata nel morbido tufo e rivestita di marmi preziosi. Furono rinvenute nella piscina anche alcune lucerne di terracotta e una statua del dio Apollo. La leggenda narra che il nome delle grotte derivi da Pilato, giovane attaccabrighe della Roma imperiale, esiliato a Ponza. La sua mediazione nel sedare una ribellione sull’isola di Ponza gli diede poi l’appellativo di Ponzio Pilato.