반업주부의 일상 배움사

> English Summary [ 요약 ] 이 동영상에서는 알파카 모델이 오픈 소스가 아닌 것에 대응하여 데이터브릭스에서 새롭게 미세 조정한 돌리에 대해 설명합니다. 돌리는 알파카 데이터 세트에 대해 GPT-J 6B라는 60억 개의 매개변수 모델을 학습시켜 만들어졌습니다. 이 모델은 양 돌리의 이름을 따서 명명되었습니다. 데이터브릭스에서 가중치를 공개하지는 않았지만 요청할 수 있습니다. 그런 다음 발표자는 알파카 데이터 세트의 클린 버전에서 유사한 모델을 훈련하고 미세 조정한 자신의 경험을 설명합니다. 원본 데이터 집합의 일부 예제는 부정확한 부분이 있었는데, GitHub의 담당자가 이를 수정했습니다. 동영상은 연사가 돌리와 같은 모델의 잠재적 용도에 대해 논의하는 것으로 끝납니다. 모델 미세 조정에 ..