스테이즐 디퓨전 기본 베이스 모델이 원래 이미지에 있느느 노이즈를 단계적으로 제거하는것으러 알고 있음.
원본이미지에 노이즈 추가하고 또 추가하고 반복해서 추가한것을
딥러닝 모델이 노이즈 지우고 지우고 반복해서 지워서 원본 이미지로 돌리는 방식으로 훈련 된단 말이야.
그럼 컴파일러가 만든 바이너리 코드를 원래의 소스 코드로 돌리는 모델도 만들 수있지 않을까?
컴파일러를 좀 개조해서 단계적으로 소스 코드가 변화는 중간 결과물도 아웃풋으로 내게하고,
이걸 가지고 훈련하면 바이너리 코드만 주어지면 소스 코드로 주석까지 달면서 리버스 엔지니어링 하게 할 수있지 않을까?
더 나아가서 스테이블 디퓨전으로 그림 그리듯이 원하는 방식으로 소스 코드를 좀 비틀 수도 있지 않을까?
ㅋㅋㅋㅋ 토치나 텐서플로가 다 씨언어로 만들어졌을텐데 어셈블리를 씨로 바꾸고 파이썬으로 바꾼다고? 생각처럼 그게 쉽지 않다 - dc App
아닐걸? gpt4가 언어도 만들어내는 걸로 아는데 - dc App
씨에서 파이썬 바꾸는거 보다는 어셈블리 ->중간단계3 -> 중간단계2 -> 중간단계1 -> c언어 이럴게 바뀌는걸 이야기 한것임.
그 gpt4는 소스코드를 학습해서 만들어낸거 아니겠음? 어셈블리 코드가 아니라. 어셈블리 코드랑 c언어 코드를 같이 제공하고 지도학습으로는 어쩌면 가능할 수도 - dc App
재미있는 이야기네. 자연어처리를 하지는 않지만 chatGPT,GPT4가 성능이 크게 오른건 지도학습 때문이 아니라 RLHF (reinforcement learning with human feedback) 때문이라고 알고 있음. 성능 비교한걸보니 GPT2도 RLHF의 사용 유무로 성능이 크게 달랐음.
ChatGPT가 human feedback을 위해 40명의 전문가로 하여금 피드백을 주도록했으니, 너가 원하는 작업을 수행할 수 있는 전문가 40명 고용해서 해보면 될 듯. 전문가 영입에서 돈이 많이 깨질거 같은데 결과는 궁금함
gpt4 논문 나옴? human feedback이라니, 그런거 해주는 알바를 대량으로 쓴건가? 근데 님이 하는 이야기는 이거랑 전혀 상관없는 주제 아님?