Die isolierte Lage von St Mary mit Blick auf das Marschland im Nordosten und ein paar Kiefern ringsherum ist denkwürdig. Es gibt kein Dorf mit dem Namen Fishley, nur Fishley Hall ist in der Nähe. Die Kirche hat nur sehr begrenzte Öffnungszeiten, aber bei einem meiner Besuche im benachbarten St. Edmund in Acle hatte eine der Damen, die die Blumen versorgte, zufällig einen Schlüssel von St. Mary und bot freundlicherweise an, mich zu begleiten und die Kirche für mich zu öffnen. Wenn Sie mit einem Boot unterwegs sind, gibt es einen schönen Spaziergang von Upton Staithe zur Kirche über die angrenzenden Felder.

Der westliche Teil des Kirchenschiffs und der untere Teil des Turms wurden im 11. Jahrhundert zur gleichen Zeit aus Feuerstein gebaut, aber der obere Teil aus Backstein mit den steinernen Glockenturmöffnungen wurde wahrscheinlich im 16. oder 17. Jahrhundert errichte. Unten wurden die früheren Öffnungen im Turm ebenfalls mit Ziegeln ausgefüllt. Diese Ziegel aus dem 14. Jahrhundert könnten von der früheren Halle nordöstlich der Kirche wiederverwendet worden sein. Viele der Fenster in der Kirche wurden im 19. Jahrhundert verändert, ebenso wie das Turmdach von einem kegelförmigen zu einem mit einer Brüstung, das Südportal wurde damals hinzugefügt, und das steil geneigte Schieferdach, das auch das Kirchenschiff deckt (ein sogenanntes Katzenschiebedach!). Die Eisentore des Portals wurden 2009 hier angebracht, mit A M, für Ave Maria.

Die Südtür stammt aus dem 11. Jahrhundert, mit kräftigem Knüppelwerk, das den Rundbogen bildet. Im Inneren ist zu erkennen, daß im 19. Jahrhundert viel verändert wurde; die meisten Einbauten und Fenster stammen aus dieser Zeit. Das nördliche Kirchenschiff hat keine Arkade. Sein oberes Dach ruht auf einem Balken in der Länge des Kirchenschiffs, der von einem einzelnen Eisenpfosten getragen wird. In der Nähe des Portals befindet sich ein Armenkasten für Spenden, der wahrscheinlich aus einem alten Dachbalken gefertigt wurde, mit einem eisenbeschlagenen Deckel und Schloss. Das moderne runde Taufbecken steht in der nahen Ecke. Der Turmbogen aus dem 11. Jahrhundert ist schmal und hat eine runde Spitze, darüber befindet sich ein ähnlich geformtes Oberportal. Dieses ermöglichte den Zugang zum ersten Stock des Turms über eine Leiter, die im Kirchenschiff aufgestellt war, bevor es Kirchenbänke gab. An der Südseite des Chors, an der Wand stehend, befindet sich ein großer Teil eines steinernen Sargdeckels, der auf etwa 1300 datiert wird.