1. 구글이 트랜스포머 아키텍쳐 개발을 시작한 이유는 구글 번역기에 쓰이는 CNN을 대체하여 비용을 절감하기 위해서였다.


2. 트랜스포머 논문의 최연소 저자는 1998년생이며, 현재는 7조원 가치의 AI기업을 운영하고 있다.


3. GPT-3 의 라벨링 데이터는 케냐 근로자들에게 시간당 2달러를 줘가며 만들었다.


4. ChatGPT는 메타의 오픈소스 프레임워크인 Pytorch를 이용해 학습되었다.


5. 샘 알트만은 GPT-3.5 공개에 앞서 모델의 위험성에 두려움을 느꼈다고 회상했다.