Embora o renderizador mental ray seja relativamente fácil de usar uma vez que você o tenha configurado corretamente, há diversas "pegadinhas" que você pode encontrar imediatamente, especialmente se você está acostumado principalmente com o agente de renderização de linhas de digitalização 3ds Max e seu fluxo de trabalho. Por exemplo, consulte Materiais 3ds Max em renderizações mental ray. Estas são algumas regras gerais básicas para utilizar o mental ray no 3ds Max:
Usar luzes com o renderizador mental ray
Ao configurar uma cena para renderizar com o renderizador mental ray, tenha as seguintes dicas em mente:
- O parâmetro Ultrapassar para luzes não funciona quando você usa o mental ray para renderizar sombras mapeadas por sombra. Para utilizar Ultrapassar, utilize as sombras ray-traced.
- A exclusão de um objeto da projeção de sombra não funciona quando você usa o mental ray para renderizar sombras mapeadas por sombra. Para excluir objetos da projeção de sombra, utilize sombras ray-traced. (O botão Excluir está na implementação Parâmetros gerais da luz).
- Quando você atribui um mapa à sombras de objeto no rollout Shadow Parameters da luz, o renderizador mental ray não reconhece a alternância para o mapa (à esquerda do botão Map) e renderiza o mapa mesmo se a alternância está ativada ou desativada. Para parar de usar o mapa, você deve clicar no botão Mapa e no Material/Map Browser, atribua NONE como o tipo de mapa.
- Ao usar o agente de renderização de linhas de digitalização padrão, é possível definir uma luz que tenha um valor de zero, com uma sombra com a cor branca e a densidade da sombra em −1. Com estas configurações, a luz projeta sombras, mas não ilumina uma cena. Para obter o mesmo efeito utilizando o renderizador mental ray, o valor da luz não deve ser zero. Em vez disso, defina-o para um valor próximo de zero (por exemplo, 0,001).
- O renderizador mental ray ignora os parâmetros de tendência na implementação Parâmetros de mapa de sombra e a implementação Parâmetros de sombras de tracejamento de raio.
Tracejamento de raio
O traçador de raios mental ray é rápido e oferece imagens de excelente qualidade, mas é importante utiliza-lo corretamente.
O renderizador mental ray não suporta por completo mapas cúbicos para mapas Reflect/Refract. Eles são utilizados se já foram gerados pelo agente de renderização de linhas de digitalização padrão, mas não os gera. Se 
a partir do arquivo de origem ativo e o renderizador mental ray pode encontrar os seis mapas cúbica, ele utiliza os mesmos. Se a fonte automático estiver ativa, ou se o Mapa cúbico não pode ser encontrado, o renderizador mental ray gera reflexões de tracejamento de raio ou refrações.
Configuração do Tracejamento de raio
No menu de renderização, Ray Tracer Settings e Raytrace Global Include/Exclude estão desativadas enquanto o renderizador mental ray está ativo. Estes controles ajustam as configurações do tracejamento de raio para o agente de renderização de linhas de digitalização apenas. As configurações para estes controles não têm impacto sobre o renderizador mental ray. Os controles de tracejamento de raio para o mental ray aparecem no painel Renderer no rollout Rendering Algorithms.
Regras gerais do Ray Tracing
Digamos que você esteja renderizando uma taça de vinho (lathed), com uma superfície interna e externa e um pedaço da geometria que representa o vinho. A geometria do vinho é ligeiramente menor do que as superfícies internas da taça, e plana em cima. Agora, você renderizará a taça. Após a renderização da cena, no entanto, há algo errado: as superfícies internas da taça não parecem ser refletiva o suficiente, e o vinho não refrata corretamente. O que está errado?
É possível que o número de reflexões e refrações estão muito baixos para o número de superfícies que você tem. Para verificar isso, vá para o painel Renderer no rollout Rendering Algorithms e olhe as configurações Maximum Depth. Se você ainda não alterou os parâmetros, então você deverá ver Max. Reflections e Max. Refractions definidos para o padrão de 6, e Max. Depth definido para 6.
Aí está o problema: você tem seis superfícies que precisam ser tracejadas pelos raios de luz para ambas as reflexões e refrações. A forma para sempre calcular o número de raios necessários para uma cena é levar os objetos tracejados por raios em sua cena e desenhar uma linha imaginária entre eles, com a origem no ponto de vista. Então, conte o número de superfícies que a linha intercepta.
Para a taça de vinho e o vinho, é preciso ao menos seis reflexões e refrações que correspondem às seguintes superfícies:
- Perto de superfície exterior da taça (“perto” em relação ao seu ponto de vista da Camera)
- Perto da superfície da taça interna
- Perto da superfície do vinho
- Longe da superfície do vinho
- Longe da superfície interna da taça
- Longe da superfície exterior da taça
Portanto, aumente o valor de Max. Depth para 12.
Cáusticas e iluminação global
Antes de renderizar com cáusticas, há diversas coisas que você precisa configurar em sua cena:
- Para que as cáusticas funcionem corretamente, a geração de objeto deve utilizar um material que contenha algum grau de brilho, reflexão, ou refração. Atribua um Raytrace ou outro mapa como um mapa Reflection ou mapa Refraction antes de renderizar as cáusticas.
- Na maioria dos casos, você estará utilizando materiais altamente reflexivos, brilhantes (como cromo e outros metais), ou materiais transparente ou translúcidos (como taças de vidro ou água), para gerar cáusticas em sua cena. Se você estiver usando um material envidraçado, certifique-se de que ele tenha dupla face para criar os resultados apropriados.
- Certifique-se de que as propriedades de objeto esteja em Receive Caustics ou Generate Caustics (ou ambos). Para definir estas propriedades, clique com o botão direito do mouse em um objeto e selecione Properties. Por exemplo, se você estiver renderizando uma taça de vinho em cima de uma mesa, provavelmente você deseja que a taça de vinho gere receba cáusticas (de maneira que as cáusticas fiquem espalhadas dentro da taça), e a mesa somente receba cáusticas (a menos que seja cromada, digamos).
- Se a renderização da cena está lavada pela luz, verifique as configurações de Multiplicador: um no grupo Básico da implementação Final Gather, e um nos grupos Cásuticas e Iluminação global (GI) do painel de Iluminação indireta na implementação Cásuticas e Iluminação global. Estas se aplicam a todas as luzes na cena. Reduzir os valores de Multiplicador pode eliminar a lavagem.
Se um único objeto de luz está causando o problema, é possível reduzir o valor do multiplicador Energy no rollout mental ray Indirect Illumination do objeto de luz, disponível no painel Modificador.
- Para melhorar a qualidade das cáusticas, vá para o grupo Caustics do rollout Caustics And Global Illumination e aumente o Max Num. Configuração Photons Per Sample.
- Fique atento ao número total de fótons que você está emitindo: um número muito alto (100.000 e acima) podem aumentar consideravelmente o tempo de renderização. Novamente, para algumas cenas simples, você pode realmente ser capaz de definir estas para 1.000.000 e ainda renderizar em uma quantidade de tempo aceitável. Aviso: O número de fótons especificados para cada luz indica o número de fótons que precisam ser armazenados para cada luz, não o número de fótons a serem atirados. Esta é uma importante distinção: se uma luz aponta em uma direção em que não há nenhuma superfície, o renderizador mental ray pode atirar fótons para sempre. Na Messages Window, o renderizador mental ray exibe avisos de que nenhum fóton está sendo armazenado. Para evitar lentidões relacionados a este problema, certifique-se de que toda luz aponta na direção de uma superfície (às vezes é impossível fazer com as luzes omni). Outro método para evitar este problema é adicionar uma grande esfera ao redor de todo o modelo.
- Em geral, use um controle de exposição. O mr Photographic Exposure Control funciona especialmente bem para ajustar a exposição geral.
Faces coincidentes
Quando localizar faces coincidentes, o renderizador mental ray pode produzir artefatos, porque ele não consegue decidir qual face está mais próxima da câmera (nenhuma está). Para corrigir isso, mova ou dimensione um dos objetos para que as faces não mais coincidam.
Seleção da face posterior
A renderização mental ray executa a seleção da face posterior e renderiza faces unilaterais como o agente de renderização de linhas de digitalização.