https://www.technology.org/2022/03/30/forging-ahead-frontier-for-science/

DOE와 NCI(National Cancer Institute) 간의 파트너십으로 구성된 CANDLE은 Cancer Moonshot 노력의 일부이며 DOE의 엑사스케일 컴퓨팅 프로젝트 내에 존재합니다. 그 목표는 이전에 Cancer Moonshot 노력에 있었던 파일럿 프로젝트의 응용 프로그램을 개발하고 차세대 슈퍼컴퓨터로 확장하고 딥 러닝 구성 요소를 지원하여 Frontier와 같은 기계에 대한 암 연구를 가속화하는 것입니다.

CANDLE 프로젝트는 현재 임상 텍스트에서 단어 사이의 보이지 않는 연결을 식별하는 딥 러닝 모델인 "Transformers"를 사용하여 정밀 의학을 위한 차세대 자연어 처리 모델을 개발하고 있습니다.

ORNL의 National Center for Computational Sciences 소장인 Gina Tourassi가 이끄는 CANDLE 팀은 Crusher에서 트랜스포머 모델 중 하나를 성공적으로 실행하여 이전 시스템의 Crusher 노드에서 80%의 속도 향상을 달성했습니다. Crusher에서 코드를 최적화하고 실행하기 위한 노력은 ORNL CANDLE 팀의 전산 과학자이자 기술 책임자인 John Gounley가 수행했습니다.

Frontier를 사용하면 더 많은 매개변수가 있는 훨씬 더 큰 신경 언어 처리 모델을 사용할 수 있습니다. 궁극적으로 팀은 NCI에 암 감시를 위한 더 우수하고 정확한 모델을 제공하는 것을 목표로 합니다.

Gounley는 "Frontier와 같은 시스템에서 훈련된 우리의 차세대 모델이 이 Transformer 아키텍처를 기반으로 하고 오늘날 우리가 실제로 사용하는 모델보다 훨씬 더 정확하기를 바랍니다."라고 말했습니다.


프론티어라는 슈퍼컴퓨터로 트랜스포머도 만든다는데 과연 성능을 어떨까? 기대된다