描画モードについて
もともとはPhotoshopにあった機能です。レイヤーモードに限らずブラシやグラデーションなどにもありますね。

「覆い焼き、焼き込み」は本来写真の現像に際してのテクニックでした。暗室の中でカメラマンが使う技です。　覆いを使って部分的に感光の度合いを変えるから覆い焼き。レンズ周辺が暗くなってしまうのを、穴を開けた紙を使って焼き込み時間を調節する技だから焼き込み。　だったハズ。
写真の勉強は学生時代にちょろっとした程度なので詳しくないです。なんか間違ってたらご指摘いただけるとありがたい。

まぁつまり、その効果をデジタル上で再現できるようになりましたよと！　乱暴にまとめておくとしまして。

スクリーンは白い光で下のオブジェクトに干渉します。白なのでRGB全てのチャンネルに干渉。白いところの明度をより高くします。
乗算はその逆で、黒い部分の明度を下げます。

オーバーレイは乗算とスクリーンを足した様な機能で、下になるオブジェクトの明度によって明るくなったり暗くなったりします。結果、コントラストを強める効果に。

各効果は当然ながら下にあるオブジェクトの色によってかなり効果がかわってきます。↑こんな感じ。
下にテクスチャがあれば尚、明度彩度に差がでて面白い効果がでます。画像は一例ですのでいろいろと試してみてくださいまし。