相传台上曾建有寺庙，因庙建在古台上，所以此庙命名为古台寺，遗址也因此得名古台寺遗址。古台寺遗址总面积近１０万平方米，遗址南部有一长方形高台，面积约３万平方米，遗址北部和东部边缘有一自然沟。古台寺遗址的发现为皖北早期新石器文化与大汶口文化的地层依据，揭露出早于大汶口文化遗存在皖北存在的事实，对研究皖北地区新石器时代文化提供了重要的实物资料。
