수요일, MetaAI와 Papers with Code는 1,200억 개의 매개변수가 있는 과학적 지식에 대해 훈련된 오픈 소스 대규모 언어 모델인 Galactica의 출시를 발표했습니다. 그러나 출시 며칠 후 Meta는 Galactica를 다운시켰습니다.
흥미롭게도 Galactica에서 생성된 모든 결과는 출력이 신뢰할 수 없을 수 있다는 경고와 함께 제공되었습니다. 언어 모델은 텍스트를 환각시키는 경향이 있습니다.
Galactica는 인류의 과학 지식의 대규모 큐레이팅 코퍼스에 대해 교육을 받았습니다. 여기에는 4,800만 개 이상의 논문, 교과서 및 강의 노트, 수백만 개의 화합물 및 단백질, 과학 웹사이트, 백과사전 등이 포함됩니다.”라고 이 신문은 말했습니다.
검색
검색...
2022년 11월 20일에 게시됨
의견
Meta가 'Hallucinating' AI 모델 Galactica를 중단한 이유는 무엇입니까?
"현실은 GPT-3 및 Galactica와 같은 대규모 언어 모델이 도자기 가게의 황소와 같으며 강력하지만 무모하다는 것입니다."
프리탐 보르돌로이
이 이야기를 들어보세요
수요일, MetaAI와 Papers with Code는 1,200억 개의 매개변수가 있는 과학적 지식에 대해 훈련된 오픈 소스 대규모 언어 모델인 Galactica의 출시를 발표했습니다. 그러나 출시 며칠 후 Meta는 Galactica를 다운시켰습니다.
흥미롭게도 Galactica에서 생성된 모든 결과는 출력이 신뢰할 수 없을 수 있다는 경고와 함께 제공되었습니다. 언어 모델은 텍스트를 환각시키는 경향이 있습니다.
“갤럭티카는 인류의 과학 지식의 대규모 큐레이팅 코퍼스에 대해 훈련을 받았습니다. 여기에는 4,800만 개 이상의 논문, 교과서 및 강의 노트, 수백만 개의 화합물 및 단백질, 과학 웹사이트, 백과사전 등이 포함됩니다.”라고 이 신문은 말했습니다.
벨라미
최신 기술에 대한 주간 정보에 등록하십시오.
이메일
이메일을 입력하세요
Galactica는 과학 지식의 적절한 구성이 없는 검색 엔진을 통해 과학 정보에 액세스할 때 정보 과부하 문제를 해결하도록 설계되었습니다.
그러나 커뮤니티 회원들이 Meta의 완전히 새로운 AI 모델을 사용하기 시작했을 때 많은 사람들이 그 결과가 의심스럽다는 것을 알게 되었습니다. 사실, 많은 사람들이 Galactica가 제시한 결과가 실제로 매우 부정확하다고 지적하기 위해 Twitter를 방문했습니다.
Google의 수석 연구 과학자인 Alex Polozov는 Galactica를 환각, 귀인 및 정렬 연구를 위한 적대적 사례의 끝없는 출처라고 불렀습니다.
