AI 안전성을 위해 사회 과학자의 역할이 필요하다는 주장을 담은 논문.
이 논문은 장기적인 AI 안전 연구에 사회 과학자가 필요하다고 주장합니다. AI 정렬 알고리즘이 실제 인간과 성공적으로 작동하기 위해서는 인간의 합리성, 감정, 편견에 대한 많은 불확실성을 해결해야 합니다. 이 논문의 목적은 기계 학습과 사회 과학 연구자 간의 협력을 촉진하는 것이며, OpenAI에서 사회 과학자를 전담으로 고용할 계획입니다.
The paper argues for the need for social scientists in AI safety research.
This paper argues that long-term AI safety research requires social scientists to ensure AI alignment algorithms work effectively with real humans. Properly aligning advanced AI systems with human values necessitates addressing uncertainties related to human psychology, including rationality, emotions, and biases. The aim is to enhance collaboration between machine learning and social science researchers, and OpenAI plans to hire social scientists for this purpose.