[📪정보] 딥마인드, 안전한 AI 챗봇 ‘스패로우’ 공개

[익명(black542)]

스패로우 챗봇을 개발하기 위해 딥마인드는 강화 학습과 사용자 피드백을 결합했다. 챗봇의 정확성을 평가하기 위해 사용자들은 스패로우에게 질문을 하고, 챗봇이 생성한 여러 개의 답변 중에서 가장 정확하다고 생각하는 답변을 선택했다. 딥마인드는 이 접근 방식이 챗봇의 정확도를 크게 향상시키는 데 도움이 됐다고 밝혔다.

또 사용자가 스패로우에게 천문학과 같은 특정 주제에 대한 정보를 검색하도록 요청하면, 챗봇은 구글을 사용해 웹을 검색해서 요청된 정보를 찾는다. 그다음 스패로우는 검색된 웹사이트에 대한 링크와 함께 답변을 사용자에게 제공한다. 딥마인드에 따르면 사용자는 스패로우가 이러한 방식으로 생성한 답변의 78%가 그럴듯하다고 평가했으며, 이것은 기존 AI 챗봇에 비해 크게 개선된 것이다.


딥마인드는 챗봇이 편향되고 유해한 답변을 생성하는 것을 방지하기 위해 23가지 규칙으로 스패로우를 설계했다. 적대적인 평가를 위해 딥마인드는 사용자에게 스패로우를 속여 규칙을 위반하도록 요청했다. 사용자는 8% 정도만 속이는 데 성공했는데, 다른 방법을 사용해 훈련된 AI 모델 보다 훨씬 낮은 수치다.


https://www.aitimes.com/news/articleView.html?idxno=146970




웹에서 자료 찾고 사용자의 질문에 답변 제공하고
사용자가 헛소리 하면 알아서 걸러냄 ㄷㄷ

[익명(221.154)]

게임 오바.

[익명(58.231)]

해줘 - dc App

[ㅇㅇㅇ(14.38)]

[익명(222.112)]

사람같지 않아도 되니까 대답만이라도 잘 하자 동문서답 하지말고..