・PSDを読んでPSDで吐くなら、統合画像データ及び各レイヤー毎にそれぞれスムージングを施して順番に書き出すだけだから別段難しい事は何も無い。やったこと有るし
TIFF/PNG等→PSDの場合は、1枚を統合画像とレイヤーに2回出せば多分OK(やってないけど)。あるいは統合画像だけで済むかも知れない。まぁ実際にやってみれば分かるので何ら問題無し。
・PSD→TIFF/PNGの場合が問題。統合画像は透明部分が無く白で埋められているのでそのままでは使えない。透明度データはレイヤーから取るしかない。レイヤーモードの重ね合わせ処理正確には判らないので*1、自前でレイヤーの結合処理を書くのは避けるべき。色は統合画像のものを使い、透明度は全レイヤーの透明度を調べて…えーと、どうすれば良いのかな?
50%レイヤーが2枚あるから足せば100%だ…ってそれは違うだろ。この辺の事はtms2aviを作った時に結構考えた気がするんだが*2…あの時は結局、最終的なAVIは透明度持たなかったから微妙に話が違う。
50%+25%=50%な気がするから、各レイヤーの不透明度のうち一番大きいもの=全体の不透明度…か?
不透明度はこれで良いとしてさらに色。統合画像データの色データは、白を背景に統合されてしまってるから戻さないと。面倒くさそう。白でなくて黒を背景に統合してくれれば良かったものを…。

*1:Photoshopソースコードでも公開されない限り誰にも判らない筈。…いや、SDKをよく読めば書いてあるのかな?

*2:半透明のセル画人物の口パクの口が肌に対して透ける問題