Насколько я понимаю, имеется ввиду галка в конфигурации вьюпортов, а не в рендере.
Когда-то, давным давно, Backface Cull использовался для скрытия "задних" ребер в вайрфрейм моде, а этот флажок - как раз для отображения двух сторон в шейдед моде.
Дело действительно в D3D/OGL, так как до 9-ки в максе нельзя было видеть обратную сторону в D3D. (хотя я могу ошибаться, так как никогда это проблемой не было, но как минимум в 6-м максе точно эта галка в д3д не работала
)