"가장 염려되는 점은 조만간 인공지능이 자신만의 하위 목표(sub goal)를 만들어 스스로 목표를 이룰 수 있게 된다는 것이다. 사실 챗GPT와 같은 챗봇은 거의 다 이 기능이 내장되어 있다. 또한 다른 목표를 달성하기 위해 하위 목표를 설정할 수 있는 기능을 갖춘다면, AI는 자체 통제 권한을 더 많이 획득하는 것이 자신에게 매우 유리한 하위 목표라는 점을 깨닫고 그렇게 행동하게 될 것이다."

by 제프리 힌튼

*  올린이: 마이클