
През 1825 г. Фишър се скарал с местен дърводелец и бил изпратен в затвора, а фермата поверил на съседа си Джордж Уоръл. След като Фишър се завърнал на свобода обаче, той с изненада установил, че онзи претендирал, че поверената му временно ферма му принадлежала.
На 17 юни 1826 г. Фредерик Фишър изчезнал мистериозно. Джордж Уорел обявил, че е отплавал за Англия и му е продал къщата и вещите си.

Четири месеца след изчезването на Фишър местен мъж на име Джон Фарли разказал странна история – видял призрака на Фредерик, седящ на оградата на близък мост. Той обяснил, че призрачната фигура не е произнесла нито дума, а просто е посочила към пасище наблизо, а след това изчезнала. Полицейско разследване на мястото, което призракът посочил, установило закопани останки от убития Фишър.
Според косвени доказателства, за убийството на Фредерик бил арестуван Джордж Уоръл. Въпреки че Джордж първоначално отрекъл обвинението, той направил самопризнания по-късно и след това бил обесен. Съдът обаче не взел под внимание историята за призрака на Фишър, тъй като такива свидетелства били недопустими в съда.
Дали обаче Фарли наистина е видял духа на Фишър?
Друга теория е, че истинският свидетел на убийството, който също не искал да се разкрива, се преобразил като дух и седял на моста. Когато Фарли минавал, неизвестният очевидец се представил за призрака на Фишър и посочил мястото на погребението.
Още една вероятна теория е, че историята за призрака е просто измислица – журналистическа фикция на списание в Сидни. Действително в съдебните актове по делото не присъствала историята за призрака на Фишър, а местонахождението на тялото било открито, защото полицията намерила няколко петна от кръв в района и човешка тъкан, плаваща по реката.
Независимо как се е появила историята за духа на Фишър, тя вече е част от народния фолклор. Всеки ноември в град Кампбeлтаун се провежда Фестивал на Духа на Фишър, за да се почете един от най-известните призраци в Австралия. А реката, край която било открито тялото, е наречена Река на Духа на Фишър.