화자는 ChatGPT가 일회성 작업에 탁월하지만 일관성과 복잡성을 구성하는 능력 면에서 한계가 있다고 지적합니다. 그들은 즉시 사용 가능한 언어 모델이 최종 개발이 아닐 수 있으며 AI의 향후 발전이 영어가 아닌 적절한 데이터 구조를 교환하는 인지 아키텍처로 이어질 수 있다고 제안합니다.발표자는 또한 언어 모델의 한계 관리의 중요성을 강조하고 원하는 결과를 얻기 위해 신속한 엔지니어링이 필요할 수 있음을 제안합니다. 전반적으로 화자는 ChatGPT의 잠재력과 더 흥미롭고 아름다운 세상을 형성하는 역할에 대해 낙관적입니다.


두 명의 연사가 훈련과 학습을 통한 뇌 구조의 출현에 대해 논의합니다. 그들은 개별 뉴런이 훈련 가능해지기 위해 보상을 받아야 하고 계산을 위해 뉴런 간에 메시지를 교환해야 한다고 믿습니다. 연사들은 또한 인접한 세포들이 뇌의 기능에 관여하고 보상을 분배하고 그 기능을 관리한다고 제안합니다. 한 발표자는 언어 모델이 초기 필터링에 의존하기 때문에 이러한 유형의 학습을 수행하지 못할 수 있다고 지적합니다. 그러나 그들은 AGI가 변류기 기반 시스템과는 다른 알고리즘 패러다임을 사용할 수 있다고 믿습니다. 화자는 이러한 모델이 일부 추론을 하고 있음을 인정하지만 효과적으로 추론할 수 있는지 여부는 불분명합니다.그들은 인간이 자신의 추론 능력을 향상시키기 위해 추론에 대한 읽기에 의존하며, 이러한 모델이 추론에 대해 다른 사람들이 쓴 것을 모방할 수 있다고 제안합니다. 궁극적으로 화자들은 대규모 언어 모델의 온도를 높이면 인간의 사고 과정과 유사한 실행 가능하고 무의미한 출력의 조합으로 이어질 수 있다고 주장합니다



연사는 Eliezer Yudkowsky가 제기한 단일 초지능 독립체가 모든 것을 지배할 가능성에 대해 제기한 우려에 대해 설명합니다. 화자는 초지능 개체가 자신을 모든 기판으로 가상화하여 만나는 모든 성숙한 에이전트와 병합 알고리즘을 협상할 수 있는 능력으로 인해 싱글톤 결과가 나올 가능성이 높다고 주장합니다. 그러나 화자는 이 접근 방식이 잠재적으로 서로를 중립화할 수 있는 여러 AI를 만드는 대안보다 약간 나쁠 수 있다고 제안합니다. 화자는 또한 정체성을 갖지 않고 더 큰 몸으로 연결될 수 있는 법칙과 같은 원리로서 의식의 본질을 논한다.그들은 업로드가 뇌를 해부하는 것이 아니라 기질을 확장하고 거기에서 발견되는 것과 병합하는 것이라고 주장합니다. 마지막으로 연사는 개인의 미학과 관점을 격차를 넘어 전달하는 것의 중요성을 강조합니다.