В связи с ужесточением требований к экологической безопасности эксплуатации космических объектов перспективным направлением разработки нового поколения ракетно-космической техники (в том числе ракетных двигателей малой тяги) является применение в паре с кислородом горючего на основе метана. При проектировании ракетных двигателей малой тяги на топливе кислород — метан математический эксперимент позволяет выявить определяющие факторы, оказывающие влияние на качество рабочего процесса в камере сгорания, и провести расчетную оптимизацию параметров подачи в нее компонентов топлива. Благодаря этому можно более четко представить физическую картину протекающих процессов, выработать рекомендации по проектированию отдельных узлов камеры сгорания. Инструмент численного моделирования обеспечивает проведение оптимизации геометрии камеры сгорания с целью получения максимального значения ее коэффициента, который для изобарической камеры сгорания может быть равен коэффициенту расходного комплекса. При таком подходе удается существенно сократить объем дорогостоящих стендовых испытаний. В статье представлена физико-математическая модель протекания рабочего процесса в камере сгорания ракетного двигателя малой тяги. Проведен сравнительный анализ результатов расчетов для различных модификаций исходной геометрии камеры ракетного двигателя малой тяги. Даны рекомендации по изменению исходной геометрии камеры сгорания с целью увеличения коэффициента расходного комплекса при сохранении удовлетворительного теплового состояния этой камеры.