[📚정보] [언리얼] 커스텀 글로벌 쉐이더 만들기(2. 쉐이더 구현)

[흉황(smk4397)]

※ r-e-g-i-s-t-e-r 금지어여서 한글로 씀 알잘딱하게 바꿔서 쓰삼

https://gall.dcinside.com/mgallery/board/view/?id=game_dev&no=128264&search_head=30&page=1

[언리얼][쉐이더] 진짜 쉬운 셀 쉐이더 3분만에 보완하기

CelShader.usf에다가 저번에 만든 셀 쉐이더를 작성할거임

.usf는 언리얼 전용 hlsl 쉐이더 포맷이라고 생각하면 됨

#include "/Engine/Public/Platform.ush" #include "/Engine/Private/Common.ush" #include "/Engine/Private/ScreenPass.ush" Texture2D SceneColorTexture; Texture2D DiffuseColorTexture; Texture2D LUTTexture; SamplerState InputSampler; float EmissiveColorDetectingThreshold; SCREEN_PASS_TEXTURE_VIEWPORT(ViewParams) float2 PosToUV(float2 InPos) { const float2 ViewportUV = (InPos - ViewParams_ViewportMin.xy) * ViewParams_ViewportSizeInverse.xy; return ViewportUV * ViewParams_UVViewportSize + ViewParams_UVViewportMin; } float3 Desaturate(float3 InColor) { return dot(InColor, float3(0.3f, 0.59f, 0.11f)); } float4 MainPS(float4 InPos : SV_POSITION) : SV_Target0 { const float2 UV = PosToUV(InPos.xy); float4 SceneColor = Texture2DSample(SceneColorTexture, InputSampler, UV); float3 LightColor = saturate(Desaturate(SceneColor.rgb) - EmissiveColorDetectingThreshold) * SceneColor.rgb; float LightMask = ceil(saturate(Pow2(LightColor.r - LightColor.g) + Pow2(LightColor.r - LightColor.b))); float4 DiffuseColor = Texture2DSample(DiffuseColorTexture, InputSampler, UV); float DiffuseMask = ceil(saturate(Desaturate(DiffuseColor.rgb).r)); float3 ModifiedDiffuseColor = normalizeFast(lerp(SceneColor.rgb, DiffuseColor.rgb, DiffuseMask - LightMask) * (1 - SceneColor.a)); float3 OutputColor = ModifiedDiffuseColor * Texture2DSample(LUTTexture, InputSampler, float2(saturate(lengthFast(SceneColor.rgb).r), 0)).rgb; OutputColor += SceneColor.rgb * SceneColor.a; return float4(OutputColor, 0); } Colored by Color Scripter

cs

대충 다 짠듯

이제 이 쉐이더코드를 c++ 에 바인딩 시켜줄 거임

모듈 Public, Private 폴더에 각각 CustomShader.h와 CustomShader.cpp를 생성해주삼

//CustomShader.h #pragma once #include "Renderer/Private/ScreenPass.h" #include "SceneViewExtension.h" //디버깅용 로그카테고리 선언 DECLARE_LOG_CATEGORY_EXTERN(LogCustomShader, All, All); /** * 쉐이더 전역변수를 한번에 넘겨줄 수 있도록 구조체를 생성하는 매크로 * (.usf에서 선언한 전역변수와 이름이 일치해야함) */ BEGIN_SHADER_PARAMETER_STRUCT(FCelShaderParameters, ) //인자1: 구조체 이름, 인자2: API(필요 시) SHADER_PARAMETER_RDG_TEXTURE(Texture2D, SceneColorTexture) //여기서부터 전역변수 선언 SHADER_PARAMETER_RDG_TEXTURE(Texture2D, DiffuseColorTexture) SHADER_PARAMETER_RDG_TEXTURE(Texture2D, LUTTexture) SHADER_PARAMETER_SAMPLER(SamplerState, InputSampler) SHADER_PARAMETER(float, EmissiveColorDetectingThreshold) SHADER_PARAMETER_STRUCT(FScreenPassTextureViewportParameters, ViewParams) RENDER_TARGET_BINDING_SLOTS() //SV_Target에 바인딩할 슬롯임 END_SHADER_PARAMETER_STRUCT() //구조체 끝 /** * 글로벌 쉐이더 클래스 * 이 클래스 내에서 RHI를 이용해서 직접 렌더링 파이프라인을 등록할 수 있음 */ class FCelShaderPS : public FGlobalShader { DECLARE_GLOBAL_SHADER(FCelShaderPS); SHADER_USE_PARAMETER_STRUCT(FCelShaderPS, FGlobalShader); using FParameters = FCelShaderParameters; }; /** * 포스트프로세스 확장 클래스 * PrePostProcessPass_RenderThread 만 사용할 거지만 * 나머지 함수가 순수 가상 함수여서 일단 생성은 해줘야함 */ class FCelShaderViewExtension : public FSceneViewExtensionBase { public: FCelShaderViewExtension(const FAuto레지스터& Auto레지스터, UTexture* LUTTexture, float EmissiveThreshold); virtual void SetupViewFamily(FSceneViewFamily& InViewFamily) override {} virtual void SetupView(FSceneViewFamily& InViewFamily, FSceneView& InView) override {} virtual void BeginRenderViewFamily(FSceneViewFamily& InViewFamily) override {} virtual void PrePostProcessPass_RenderThread(FRDGBuilder& GraphBuilder, const FSceneView& View, const FPostProcessingInputs& Inputs) override; private: UTexture* LUTTexture; float EmissiveThreshold; public: FORCEINLINE void SetEmissiveThreshold(const float& Value) { EmissiveThreshold = Value; } }; Colored by Color Scripter

cs

.h에는 이렇게 작성하면 돼 대부분 선언이라 크게 헷갈릴 건 없을거야

파라미터 선언할 때 float2는 FVector2f, float4는 FVector4f 이런 식으로 사용해야 함

#include "CustomShader.h" #include "PixelShaderUtils.h" #include "PostProcess/PostProcessing.h" //로그카테고리 정의 DEFINE_LOG_CATEGORY(LogCustomShader) /* * 글로벌 쉐이더 클래스 내에 매크로 선언에 대한 구현 매크로 * 모듈 설정을 전 글과 동일하게 설정 했대면 * 가상 경로 /CustomShaderModule/Private/가 나타내는 실제경로는 * ../CustomShaderModule/Shaders/Private/임 * * 3번째 인자는 usf에서 바인딩할 함수 이름을 입력하면 돼 * 4번째 인자는 쉐이더의 타입을 이넘으로 지정해주면됌 SF_Vertex 이런 식으루 */ IMPLEMENT_GLOBAL_SHADER(FCelShaderPS, "/CustomShaderModule/Private/CelShader.usf", "MainPS", SF_Pixel); //로그는 그냥 디버깅용일 뿐인 거심 FCelShaderViewExtension::FCelShaderViewExtension(const FAuto레지스터& Auto레지스터, UTexture* LUTTexture, float EmissiveThreshold) : FSceneViewExtensionBase(Auto레지스터), LUTTexture(LUTTexture), EmissiveThreshold(EmissiveThreshold) { UE_LOG(LogCustomShader, Warning, TEXT("Initialize New CelShaderExtension.")) UE_LOG(LogCustomShader, Warning, TEXT("Texture: %s"), *LUTTexture->GetName()) UE_LOG(LogCustomShader, Warning, TEXT("Threshold: %f"), EmissiveThreshold) } /* * 이 함수가 이 글의 핵심 요소임 * 여기에서 파라미터 구조체 바인딩 및 * 렌더 패스에 우리가 만든 커스텀 쉐이더를 올릴거야 */ void FCelShaderViewExtension::PrePostProcessPass_RenderThread(FRDGBuilder& GraphBuilder, const FSceneView& View, const FPostProcessingInputs& Inputs) { //이 매크로를 선언하면 렌더독같은 랜더링 디버거에서 캐치할 수 있음 RDG_EVENT_SCOPE(GraphBuilder, "CelShader"); //여기서 쉐이더 인스턴스를 생성하고 RDG를 이용해서 파라미터 인스턴스도 만들것임 FGlobalShaderMap* GlobalShaderMap = GetGlobalShaderMap(GMaxRHIFeatureLevel); TShaderMapRef<FCelShaderPS> CelShaderPS(GlobalShaderMap); FCelShaderPS::FParameters* CelShaderParameters = GraphBuilder.AllocParameters<FCelShaderPS::FParameters>(); //여기서 포스트프로세싱을 할 씬텍스쳐를 만들어주고 checkSlow(View.bIsViewInfo); const FIntRect Viewport = static_cast<const FViewInfo&>(View).ViewRect; FScreenPassTexture SceneColor((*Inputs.SceneTextures)->SceneColorTexture, Viewport); //생성자를 통해 받아온 텍스쳐도 RDG에 등록해줘 FRDGTexture* LUTTextureRDG = 레지스터ExternalTexture(GraphBuilder, LUTTexture->GetResource()->GetTextureRHI(), TEXT("LUT Texture")); // 이부분도 나름 중요한데 뷰포트 크기에 맞게 상대적인 UV값을 얻기 위해 세팅하는 파라미터임 const FScreenPassTextureViewport SceneColorTextureViewport(SceneColor); const FScreenPassTextureViewportParameters SceneTextureViewportParams = GetScreenPassTextureViewportParameters(SceneColorTextureViewport); // 이 부분에 파라미터 구조체에서 선언한 변수에 빠짐없이 값을 넣어줘야함 CelShaderParameters->SceneColorTexture = (*Inputs.SceneTextures)->SceneColorTexture; CelShaderParameters->DiffuseColorTexture = (*Inputs.SceneTextures)->GBufferCTexture; CelShaderParameters->LUTTexture = LUTTextureRDG; CelShaderParameters->InputSampler = TStaticSamplerState<SF_Point, AM_Clamp, AM_Clamp, AM_Clamp>::GetRHI(); CelShaderParameters->EmissiveColorDetectingThreshold = EmissiveThreshold; CelShaderParameters->ViewParams = SceneTextureViewportParams; CelShaderParameters->RenderTargets[0] = FRenderTargetBinding(SceneColor.Texture, ERenderTargetLoadAction::ELoad); //파라미터 설정이 완료된 후 비로소 렌더패스에 쉐이더를 올릴 수 있음 FPixelShaderUtils::AddFullscreenPass(GraphBuilder, GlobalShaderMap, FRDGEventName(TEXT("Cel Shading")), CelShaderPS, CelShaderParameters, Viewport); } Colored by Color Scripter

cs

쉐이더 관련 코드를 보면 매크로로 구성된 코드가 꽤 많아서 처음엔 좀 아리까리 할 수도 있음 ㅋㅋ

이제 익스텐션 클래스 인스턴스를 생성하면 바로 쉐이더를 사용할 수 있어

//ShaderTestActor.h #pragma once #include "CoreMinimal.h" #include "GameFramework/Actor.h" #include "ShaderTestActor.generated.h" class FCelShaderViewExtension; UCLASS() class CUSTOMSHADERMODULE_API AShaderTestActor : public AActor { GENERATED_BODY() public: AShaderTestActor(); UFUNCTION(CallInEditor, Category = "Cel Shader") void ApplyCelShader(); UFUNCTION(CallInEditor, Category = "Cel Shader") void CancelCelShader(); UPROPERTY(EditAnywhere, BlueprintReadWrite, Category = "Cel Shader") TObjectPtr<UTexture> LUTTexture; UPROPERTY(EditAnywhere, BlueprintReadWrite, Category = "Cel Shader") float EmissiveThreshold = 1.2f; float CachedEmissiveThreshold = -1.0f; private: TSharedPtr<FCelShaderViewExtension, ESPMode::ThreadSafe> CelShaderExtension; }; //ShaderTestActor.cpp #include "ShaderTestActor.h" #include "CustomShader.h" AShaderTestActor::AShaderTestActor() { PrimaryActorTick.bCanEverTick = false; } void AShaderTestActor::ApplyCelShader() { if (!LUTTexture || abs(EmissiveThreshold - CachedEmissiveThreshold) < 0.000001) { return; } if (CelShaderExtension.IsValid()) { CelShaderExtension->SetEmissiveThreshold(EmissiveThreshold); return; } CelShaderExtension = FSceneViewExtensions::NewExtension<FCelShaderViewExtension>(LUTTexture, EmissiveThreshold); } void AShaderTestActor::CancelCelShader() { if (CelShaderExtension.IsValid()) { CelShaderExtension.Reset(); } } Colored by Color Scripter

cs

대충 간단하게 익스텐션 인스턴스를 생성하는 액터를 하나 만들었어

이제 테스트를 해보자

액터를 배치하고 파라미터를 적적하게 넣어주고 Apply Cel Shader 버튼을 누르면

정상적으로 동작하는 것 같네 ^^

궁금한 거있으면 댓 주삼 킼킼

[익명(221.163)]

에디터로 구현하는 거에 비해서 어떤 차이점이 있나요? 어쨌든 좀 열심히 사셨네요.

[흉황(smk4397)]

사실 엔진 소스를 수정하지 않을 계획이라면 그닥 큰 의미가 없을 수도 있어요 하지만 렌더 파이프라인을 리소스에 맞게 수정한다거나 할 때 알아두면 좋을 듯 합니다 - dc App

[익명(221.163)]

답변 감사합니다

[카퍠인(happys96)]

[흉황(smk4397)]