[일반] 토큰은 뭐고 fp는 뭐냐

[얼음의빙신(icebingsin)]

공지에 ai용어 정리같은거 누가 만들어줘!!

[익명(rechido)]

이 정도는 GPT느님한테 물어보면 다 나온다...

[익명(rechido)]

FP=Floating Point. 이건 AI가 아니고 컴공기초. 1.XXXX * 10^-3 과 같이 실수를 지수함수적으로 표현한거. FP32=메모리 32비트 안에서 가능한 최대로 표현함, FP16=16비트, FP8=8비트. 비트수가 줄수록 표현가능한 유효숫자도 줄어서 정밀도가 떨어짐