Niewielki fragment ceglanego muru, pozostałość ogrodzenia dawnego cmentarza żydowskiego w Pile, został wpisany do rejestru zabytków.

Cmentarz żydowski w Pile powstał prawdopodobnie około 1627 roku, w pobliżu wytyczonej w tym czasie dzielnicy żydowskiej. W 1854 roku powiększono powierzchnię cmentarza, na którym od tej pory wyróżniano część starą i nową. W 1896 roku wzniesiono - prawdopodobnie kolejny - dom przedpogrzebowy.

W okresie międzywojennym cmentarz znajdował się między Karlstrasse (obecnie pl. Domańskiego) i Kueddow Promenade, zajmował działkę na nieregularnym planie, był otoczony ceglanym murem. W jego centralnej części znajdowało się lapidarium ze zniszczonych nagrobków w formie piramidy.

W latach 20. XX wieku na cmentarzu odsłonięto pomnik Żydów poległych w I wojnie światowej, zaprojektowany przez prof. Liebermanna z Berlina i wykonany w miejscowym zakładzie kamieniarskim Wilhelma Peglowa. Na pomniku wyryto napis "Für die Mütter der Zehntausend" ("Matkom dziesięciu tysięcy") oraz nazwiska poległych Żydów z Piły.

31 maja 1939 roku na cmentarzu odbył się ostatni znany pogrzeb - pochowano wtedy dr Herthe Wohl z domu Goetze. Brak jest szczegółowych danych o procesie niszczenia cmentarza. Według Petera Simonsteina Cullmana obiekt w czasie drugiej wojny światowej został splantowany i przekształcony na park (na planie miasta z 1944 roku był wciąż zaznaczony jako cmentarz).

W sporządzonym przez Prezydium Wojewódzkiej Rady Narodowej w 1953 r. dokumencie "Charakterystyka zniszczeń cmentarzy poewangelickich i pożydowskich" odnotowano: "Nie ma cmentarza pożydowskiego". W 1954 roku część cmentarza znalazła się na terenie Szkoły Podoficerskiej Milicji Obywatelskiej, która zajęła dawną siedzibę władz prowincji. W jego obrębie zbudowano przedszkole i salę gimnastyczną.

W 2013 roku na zlecenie Szkoły Policji na terenie cmentarza rozpoczęto prace budowlane, w trakcie których wykopano kości, macewy i ich fragmenty, kłódki, żeliwne części ogrodzeń grobów. Po negocjacjach z przedstawicielami Związku Gmin Wyznaniowych Żydowskich w RP Szkoła Policji otrzymała zgodę na rozbudowę placówki i zobowiązała się do ufundowania pomnika na cmentarzu.

2 czerwca 2015 roku na skraju cmentarza odsłonięto zaprojektowany przez Janusza Marciniaka pomnik w formie granitowej, poziomej gwiazdy Dawida umocowanej na stalowej konstrukcji na betonowej wylewce na planie sześcioramiennej gwiazdy. Na pomniku wyryto napis w językach polskim, angielskim i hebrajskim: "Stoisz na założonym w XVII wieku cmentarzu żydowskim, który został zniszczony przez nazistów niemieckich podczas II wojny światowej. I wróci proch do ziemi, tak jak nią był, a duch wróci do Boga, który go dał. Koh 12, 7. Jak pamiętamy, tak będziemy pamiętani. Pomnik został ufundowany przez Gminę Piła i Szkołę Policji w Pile".

Na pobliskim murze umieszczono tablicę informacyjną. Wykopane podczas prac budowlanych nagrobki, kłódki i metalowe elementy przejęło Muzeum Okręgowe im. Stanisława Staszica w Pile.

W wyniku zniszczeń z naziemnej warstwy cmentarza zachowała się aleja wiązów oraz fragment ceglanego muru cmentarza, który teraz został wpisany do rejestru zabytków.