Функция RRE_CheckLength используется для проверки вероятного размера получаемой строки замены. Проверка основывается на наличии в строке инициализации "непустых" регулярных выражений. Естественно, точный размер получаемой строки в общем случае предсказать невозможно, но попробовать угадать, будет он больше или равен нулю, можно. Именно это и делается :-)
BOOL WINAPI RRE_CheckLength(const CReplaceRegExp *rre);