Проблема в напряжении питания ОУ - у Вас всего 12В.
Расклад получается такой...
Транзисторы включены на выход ОУ как составной эммитерный повторитель, по этому напряжение на эммитере Q1 (на выходе) равно разности напряжения на базе Q2 и падений напряжения на базовых переходах транзисторов. То есть, на 0,7В+0,7В=1,4В меньше.
Согласно даташиту на ОУ его выходное напряжение под нагрузкой меньше на 1,5-2В напряжения питания. То есть на выходе ОУ в данном случае будет не больше 12В-1,5...2В=10,5...10В.
Вот и получается, что при любом напряжении на коллекторах транзисторов (хоть 300В или 3000В) выходное напряжение ни когда не поднимется выше 12В-2-1,4=8,6В.
Что и подтверждается практически - у Вас 8,8В.
ШИМ при этом может меняться не только до 256, а хоть до 1024 - не поможет, так как ОУ ни когда не выдаст напряжение выше 12В-2=10В.
Для выхода из положения Вм нужно увеличить напряжение питания ОУ до значения, превышающего сумму падения напряжений на транзисторах ОУ и выходного каскада. Если в Вашем случае оно получилось 12В-8,8В=3,2В, значит, для получения выходного напряжения, например, 20В, напряжение питания ОУ должно быть не меньше 20В+3,2В=23,2В.
Или, с учётом максимального допустимого напряжения питания ОУ 36В, на Выходе Вы сможете получить напряжение не более 36В-3,2В=32,8В.
Добавлено (14.02.2016, 11:40)
---------------------------------------------
Теперь о косяках в схеме...
Фильтр R1C1 не правильный. Сопротивление резистора R1 нужно увеличить (не менее 10КОм) что бы не перегружать выход МК, а C1 расчитать или подобрать по допустимому остаточному уровню пульсаций импульсов ШИМ.
Делитель R5R3 определяет максимальное выходное напряжение схемы при максимальном упарвлящем напряжении 5В (амплитуда ШИМ импульсов).
В данном случае коэффициент деления резисторов R5R3 равен:
k=R5/R3+1=3,3КОм/1КОм+1=4,3 раза.
Значит, максимальное напряжение на выходе схемы равно:
Uшим*k=5В*4,3=21.5в.
Естественно, при этом напряжение питания ОУ должно быть не меньше, чем 21,5В+3,2В=24,7В, а напряжение на коллекторах выходных транзисторов не менее, чем 21,5В+1,4В=22,9В.
Теперь, думаю, Вы сами сможете рассчитать, какие должны быть напряжения и сопротивления для получения требуемого Вам выходного напряжения схемы.
