Обладая уникальными физическими свойствами, композитные материалы широко используются во многих отраслях современной промышленности. Однако еще на стадии изготовления композитов на их межфазных поверхностях могут образовываться шероховатости, эволюционирующие при дальнейший эксплуатации. В работе предложен теоретический метод анализа устойчивости наноразмерного рельефа межфазной поверхности гетероэпитаксиального материала с учетом ее упругих свойств на основе модели Гертина - Мердока. Используя метод возмущения, выражения Мусхелишвили, комплексные потенциалы Гурса - Колосова, получена зависимость амплитуды синусоидального возмущения от времени, физических и геометрических параметров задачи.