De afgelegen ligging in combinatie met de sterke getijdestromingen in de baai maakte het een ideale locatie voor een gevangenis waarvan ontsnappen vrijwel onmogelijk was. In 1867 werd een gevangenishuis gebouwd en een jaar klater werden de eerste militaire gevangen er ondergebracht. In deze periode was Alcatraz echter nog steeds geen officiële gevangenis. Dit gebeurde pas in 1907 toen het officieel door de Amerikaanse overheid werd ingesteld als militaire gevangenis. Enkele gevangenisfaciliteiten waren inmiddels aanwezig waardoor dit besluit voor de hand lag. Natuurlijk moesten er nog wel wat aanpassingen worden gedaan om er een officiële gevangenis van te maken. Naast het gevangenishuis werd ook het fort omgebouwd tot gevangenis. In 1912 was de bouw hiervan voltooid.