La Chiesa è una delle più antiche della città di Foligno ed è chiamata così perché ubicata tra le vecchie e le nuove mura. Inizialmente era chiamata "foris portam" cioè oltre la porta urbica. La basilica è legata alla leggenda-tradizione che vuole la presenza degli apostoli Pietro e Paolo (o almeno di Pietro soltanto) a Foligno e a Cancelli.
La Cappella dell'Assunta già tempio pagano dedicato alla Dea Diana, avrebbe ospitato San Pietro. Il tempio si presenta all'esterno ornato di un portichetto più volte rimaneggiato; si notano influenze romane, medioevali e rinascimentali. La facciata che ha un timpano ed una grande bifora, costruita nel secolo scorso coi materiale del rosone preesistente, presenta pietre di vario colore. L'interno a tre navate costruite in epoche diverse, è molto suggestivo e ricco di affreschi e sculture insigni. Nella cappella dell'Assunta c'è un affresco bizantino, un Cristo benedicente tra S.Pietro e S.Paolo. Lungo le pareti della basilica si ammirano alcune Crocifissioni ed alcune rappresentazioni di San Rocco veramente stupende, opera dell'Alunno, di suo figlio Lattanzio, di Pierantonio Mezastris, di Ugolino di Gisberto e di altri artisti della scuola folignate, umbra e senese.
Nel seicento l'interno della Chiesa subì l'influenza del tempo; le sovrastrutture barocche sono state tolte nel nostro secolo. A sinistra dell'altare maggiore (costruito negli anni quaranta in uno stile Rinascimentale) si trova la cappella della Sacra Famiglia affrescata dal pittore folignate Ugo Scaramucci ed inaugurata il 13 Dicembre 1924.
In sagrestia si conservano preziosi reliquiari. Fuori della Chiesa a destra, sulla facciata, si trova un'edicola con un affresco raffigurante S.Anna con le mani giunte, mentre due Angeli le pongono sul capo una corona. Un affresco è di un'artista della scuola folignate. Un edicola fu innalzata nel 1480 e servì come altare in quanto, in tempo di peste, si ritenne opportuno celebrare le funzioni all'aperto. La massiccia torre campanaria senza cuspide fu costruita nel XII secolo. Le attuali campane furono installate verso la fine dei XVIII secolo.