قدمت این غار به دوره مادها می‌رسد. غار خربس دارای معماری صخره‌ای بوده و در نتیجه تخلیه ماسه‌‌ها از داخل حفره‌های سنگ‌های ارتفاعات روستای خوربس که مشرف به ساحل جنوبی جزیره می‌باشد، به وجود آمده است. در دل ارتفاعات روستای خربس، 4 دهانه غار از درئن به هم پیوسته در ارتفاع 20 تا 30 متر، آثاری از معماری صخره‌ای دیده می‌شود که به عقیده برخی از محققین، نیایشگاه پیروان میترائیسم و آناهیتا بوده است. این غارها با وجود دهلیزها، تالارها، اتاق‌های متعدد و چشمه‌های گوناگون بیانگر این موضوع می‌باشد که در زمان‌های دور مردمانی در این جزیره زندگی می‌کردند.
