P(doom)

AI의 위험은 권력의 집중과 비공식적인 모델에 의존하는 사회에 있다.

AI 기술의 위험은 단순한 인류 멸종에 국한되지 않고, 다수의 사회가 비용과 피해를 떠안게 되는 권력의 집중에 있다. Anthropic과 OpenAI와 같은 소수의 기업들이 기술의 사용 주체와 방식을 결정하는 과정에서, 공공 데이터 기반의 개발 속도 조절이 중요한 이슈로 부각되고 있다. 이를 통해 발생할 수 있는 경제적 이익의 불균형이 우려된다.

The risks of AI focus on power concentration and societal burdens rather than mere extinction.

The risks associated with AI technology extend beyond simple human extinction to a concentration of power that places costs and damages on the broader society. The development speed regulation led by a few companies like Anthropic and OpenAI raises concerns about who decides the users and methods of these technologies. This situation highlights the potential for economic imbalances arising from such proprietary control over AI capabilities.