اين مجموعه در سال ۱۹۱۶ توسط اورل اشتين شناسايى شد. هرتسفلد در سال‌هاى ۱۹۲۴ تا ۱۹۲۵ م در آنجا اندکى حفارى نمود. سپس در ۱۹۷۵ ميلادى هيئت ايتاليايى ايزمئو روى آن کارها مرمتى انجام داده و پس از آن هيئت‌هاى علمى باستان‌شناسى سازمان ميراث فرهنگى کشور در سال‌هاى ۱۳۷۲-۱۳۷۰ به بررسى روى آثار و نقشه‌بردارى مربوطه پرداخته‌اند و بخشى از حياط مرکزى کاخ را مرمت نموده‌اند.
خرابه‌هاى سرآشيبى جنوبى را مى‌توان يک قلعه بزرگ يا شهر کوچک ناميد.
اين قلعه دوبار محل اقامت بوده است و آثار مرمت مکرر در همه جاى آن نمودار است ... . قديمى‌ترين مرمت قلعه، به زمان اشکانيان و حکمرانى ساکاها تعلق دارد. سپس در قرن سوم ميلادي، اوايل دوره ساساني، قلعه مجدداً مورد استفاده و مرمت قرار مى‌گيرد. اين قلعه مشتمل است بر يک قصر و يک معبد که مى‌توان آن را به زمان پادشاه گندوفار مربوط دانست. اهالى آن را قلعه رستم مى‌نامند. و به نظر هرتسفلد اين مکان به قلعه سه مجوس معروف بوده است. اما در عصر حاضر اين محل به قلعه کافران مشهور است. بناى قصر در قسمت مرتفع قرار دارد و با حياط مرکزى وسيع و يک دروازه و چهارطاقى در بخش جنوبى آن و در دو ضلع غربى و شرقى آن، ايوان‌هاى مسقف وسيعى قرار داشته که به طرف حياط باز مى‌شوند. فضاهاى اصلى در ضلع شمالى حياط واقع شده است.
هنگام ورود به ارگ داخلى قلعه در بخش شمالى حياط مرکزى -به نظر سر بالايى کوه مى‌رسد- بر يک دهليز و تالار وسيع با پلکان که به صفه فوقانى منتهى مى‌شود، به چشم مى‌خورد. اين صفه که معبد در آن قرار دارد -مرتفع‌ترين نقطه قلعه است. معبد داراى يک راهرو تنگ و سربسته است که دورتادور اتاق داخلى را با سقف گنبدى و محراب آتش، احاطه کرده است. قسمتى از اين مکان در سال ۱۳۷۶ توسط سازمان ميراث فرهنگى کشور، مورد بررسى مجدد قرار گرفته است.
تزئينات معمارى به کار رفته در اين مکان، شباهت به شيوه يونانى دارد، سرستون‌هاى به سبک دوريک با پيچ‌هاى طومارى است. تزئينات ديگر مانند گل کوچک پُرپَر، به صورت طرح نيلوفرى (لوتوس)، از هنر دوره هخامنشى اقتباس شده است و بعضى از آنها به هنر بين‌النهرين نيز شباهت دارد. هرتسفلد با توجه به پنج نمونه نقاشى که در زمان او ديده شده بود، مى‌گويد در اين نقاشى‌ها، هنر يونان باخترى تأثير به‌سزايى داشته است. در ميان اين تصويرها، نقش دو سوار وجود دارد. يکى از آنها پيک اُروس به شيوه يوناى با بال، و سوار بر اسب است. تصويرهاى ديگرى را نيز او کشف و بررسى نمود. از جمله صحنه‌هاى جشن، رقص و موسيقي، بندبازي، پادشاه و ملکه که شباهت به شيوه يونانى داشته است. چهره انسان‌ها بيشتر به صورت نيم‌رخ کشيده مى‌شد.
با انقراض سلطنت يونان باختري، هيچ عنصر جديدى به اين بنا افزون نشد. شيوه هنرى نقاشى‌هاى اين مجموعه ترکيبى از شيوه‌هاى مختلف است که نمونه آن در عصر هخامنشى ديده شده است و تمم آنها را مى‌توان مربوط به طرح و اسلوب ثالثى پنداشت که نه به استيل يونانى مانند صور حيوانات و نه به اسلوب تکامل يافته هنر يونان باختر است. با توجه به معمارى و نقاشى و تزئينات معمارى موجود در کوه خواجه، قدمت آن به قرن اول ميلادى برمى‌گردد. مصالح به کار رفته در معمارى آن، خشت خام و چينه و کاه‌گل است. نقاشى‌ها از آبرنگ و تزئينات اندودى از گچ و يا سنگ گچ است. اين ماده در هنرهاى عصر ساسانى و دوره اسلامى نيز استفاده شده است. نمونه اين تزئينات در هنر بابل و آشور نيز ديده شده است، نمونه اين تزئينات در هنر بابل و آشور نيز ديده شده است. ولى نمونه‌هاى شرقى ايران ظريف‌تر است.
پس از هرتسفلد، در سال ۱۹۷۵ هيئت باستان‌شناسى ايتاليايى ايزمئو، در بررسى‌هايشان در کوه خواجه مشخص نمودند که در اثر ريزش باران و عوامل جوى ديگر، خرابى‌هايى در کاخ به وقوع پيوسته است و به دنبال آن تکه‌اى بسيار جالب و زيبا از ديوارنگاره آبرنگى منقوش بر روى خشت خام (فِرسک) کشف شد. قسمتى از رنگ تزئينات به دست آمده خاکسترى و سبز است و با بررسى دقيق‌تر مشخص شد که نقاشى آبرنگ بر روى کاه‌گل صورت گرفته است.
زمينه و ترکيب نقاشي، از چند چهره و سر انسانى و بعضاً با گونه‌اى از کلاه و روسرى مخصوص و رديفى جان‌پناه مضرس و کنگره‌دار در متن، شکل مى‌گيرد. بر اين اساس مى‌توان استباط کرد که نقاش يا نقاشان، بر آن بودند تا حصار و باروى يک شهر را، با برج‌هاى مرتفعى که داراى سه کنگره است، به تصوير بکشند. از کل تصويرها چنين برمى‌آيد که گويا بخشى از اين مراسم مصور، در ميان و پشت ديوارهاى يک مجموعه شهر تصوير شده است. ظاهراً اشخاص با توجه به موقعيت اجتماعي، در پوشاک و ظرافت و لطافت نيم‌رخ‌هاى متغيّر خويش، به اقشار و طبعات متمايز و مختلفى تعلق دارند. در نخستين تصورى شخصى را با تمايل اندکى به طرف چپ، از پشت ديوار نشان مى‌دهد که ملبس به کلاهى نوک‌تيز و دانه‌بندى سفيد است و توسط شش نفر ديگر همراهى مى‌شود. آنها سربندهاى مختلف و گردنبندهاى سرخ‌رنگى با دانه‌هاى به هم فشرده، به گردن دارند.
عدم تناسب بارز ميان سرهاى تصوير و معمارى کنگره‌دار نبايد مايه شگفتى شود، زيرا تا آنجا که معلوم و مشخص است، احتمالاً ديوارها تنها به طور تمثيل و به شکل نمادين شهر يا کاخى را به تماشا مى‌گذارند. هرتسفلد، در دالان‌ها و طاق‌هاى ضربى (بيضى شکل) جبهه شمالى در مجموعه کاخ بزرگ نيز، ديوارنگاره‌هاى منقوش کشف نمود که صحنه نبردى بس دهشتناک را به تصوير کشيده بود. در بالاى کوه خواجه، در سطح وسيعي، آثار دوره اسلامى به چشم مى‌خورد. بعضى از اين آثار تنها از جنبه مردم‌شناسى حائز اهميت است، مانند قدمگاه حضرت ابوالفضل (ع) و قدمگاه پيرگندم بريان در کنار اين آثار، قبرستان دوره ميانه اسلامى قرار دارد. اثر قابل توجه اين مجموعه، آرامگاه خواجه مهدى و به عبارتى خواجه غلطان است که نسبتش به محمد حنيفه مى‌رسد. مصالح به کار رفته در اين آرامگاه خشت خام، کاه‌گل و گچ و داراى سقف گنبدى است. از مشخصات بارز اين آرامگاه طويل بودن قبر آن است.