Der ursprünglich kleine Turm der Borkumer Inselkirche diente den von See kommenden und Ems aufwärts fahrenden Schiffen im 15. und 16. Jahrhundert am Tage als Navigationshilfe.

Die Emder Kaufleute besaßen um 1570 rund 400 seefahrende Schiffe. Dem damals steigenden Schiffsverkehr genügte dieser Turm bald nicht mehr. Senat und Bürgerschaft der Stadt Emden bauten daher 1576 auf dem Standort des alten Kirchturms einen 41 m hohen Turm mit einem Spitzdach.

Im Jahre 1817 ließen die Stadt Emden und der hannoversche Staat dieses Dach entfernen und eine kuppelförmige Laterne aufsetzen. Hinter dessen Scheiben war ein Gestell mit 27 Öllampen angebracht. Parabolspiegel verstärkten das Licht dieser von dem Franzosen Argand entwickelten Öllampen; das so entstandene Leuchtfeuer war bis zu 6 Seemeilen (etwa 11 km) sichtbar.

1857 erhielt der Turm ein neues Laternenhaus. Die leuchtfeuertechnische Einrichtung wurde durch eine rund 2,50 Meter hohe Gürtelleuchte mit einem Durchmesser von 1,50 Metern ersetzt. Als Lichtquelle diente eine dreidochtige Öllampe, die stündlich etwa 350 g Rüböl verbrannte.

Am 14. Februar 1879 brach im Turm infolge eine Ofenrohrbrandes ein verheerendes Feuer aus. Die Trümmer der oberen Holzdecke stürzten zusammen mit der Laterne in die Tiefe und setzten die im Turmboden lagernden Ölvorräte in Brand. Der Turm brannte vollständig aus. Eine Woche nach dem Brand wurde der Bau eines neuen Leuchtturms – des Borkumer Großen Leuchtturms – beschlossen. Nach seiner Fertigstellung ließ die Regierung den alten Turm – ohne Laterne – instandsetzen. Von 1895 bis 1921 diente er als Wetterbeobachtungsstation der Deutschen Seewarte Hamburg.

Während des 1. und 2. Weltkrieges besetzte das deutsche Militär den Turm. Der Deutschen Gesellschaft zur Rettung Schiffbrüchiger diente er von 1945 bis 1948 als Seenotfunkstelle. Im Jahre 1980 erwarb die Stadt Borkum den Turm aus dem Bundesvermögen und übergab das bis dahin verfallene Baudenkmal 1982 an den Heimatverein Borkum e.V.. Dieser machte den Alten Leuchtturm mit großer Mühe und breiter Unterstützung der Borkumer Öffentlichkeit der Allgemeinheit zugänglich.

Seit 2014 zeigt die sich im alten Leuchtturm befindende Ausstellung „Land der Entdeckungen“ die lange Geschichte des alten Turmes.