Работа посвящена решению систем линейных алгебраических уравнений (СЛАУ) на ком- пьютерах с распределенной памятью. Предполагается наличие M вычислительных узлов, каж- дый из которых имеет ограниченную быструю память, а обмен данными между узлами зани- мает значительное время. При условии, что элементы матрицы и вектора правой части невозможно разместить в полном объеме в памяти одного узла, возникает проблема эффективного использования обору- дования в промежутках между обменами, т.е. возможности использования каждым из узлов доступных ему данных для уменьшения общей невязки. При общих предположениях отно- сительно матрицы системы ответ на этот вопрос отрицателен, что подтверждает пример в приложении работы. Мы рассматриваем случай, когда система имеет достаточно большой порядок и целесооб- разно применять методМонте-Карло.Приэтомматрица разделяется междувычислительными узламинанепересекающиеся блокистрокприодинаковом разбиении наблокииндексовстроки столбцов. Также рассматривается модификация метода простой