Гейберг прославился ещё и тем, что открыл так называемый Архимедов Палимпсест. А именно: в 1906 г. Гейберг обнаружил, что литургический текст хранящейся в Константинополе книги на пергаменте написан поверх семи сочинений Архимеда, из коих два дотоле не были известны даже в переводах. Эти семь текстов он, вооружённый только собственными глазами и тем фотоаппаратом, какие существовали в начале XX в., переписал и издал. Дальнейшими исследованиями, произведёнными с помощью современной техники, было установлено, что исходный текст записан на пергаменте в X в., а новый текст поверх старого – в XII в.
