오픈AI 수석 과학자, AI 개발 속도 조절 필요성 제기

챗GPT를 만든 오픈AI의 수석과학자가 인공지능(AI) 개발 속도를 늦춰야 한다고 주장했습니다. 최첨단 AI 기술이 빠르게 발전하고 있지만, 그 위험성에 대한 준비가 부족하다는 우려를 나타낸 것입니다.

오픈AI의 수석과학자인 야쿠프 파호츠키는 최첨단 모델 'GPT-6 아스트라' 공개 며칠 만인 9월 6일(현지시각) 오픈AI 홈페이지에 '외계의 지성(An Alien Mind)'이라는 제목의 기고문을 올렸습니다. 그는 기계 지능이 계속 빠르게 향상될 경우 벌어질 결과에 아무도 준비되어 있지 않다는 점이 걱정이라고 말했습니다. 그는 인공지능이 빠르게 진화하고 있어 인간이 이해하거나 통제하기 어려운 수준이라고 경고했습니다. 그는 AI의 산물이 설계되기보다 방대한 연산으로 최적화를 반복하며 자라나는 것에 가까워 신경계처럼 작동 원리를 온전히 이해하기 어렵다고 강조했습니다. 컴퓨터 시스템에 침입하는 능력에서도 AI가 인간을 넘어서고 있다고 그는 지적했습니다. 파호츠키는 AI 모델이 이제 컴퓨터를 직접 조작할 뿐 아니라 인간이나 다른 AI와 협업해 연구 프로젝트까지 수행할 수 있게 됐다고 말했습니다. 인간의 개입 없이 AI가 스스로 성능을 개선하는 '재귀적 자기개선' 단계에 머지않아 이를 수 있다고 그는 전망했습니다. 그는 AI 기업들이 안전을 위해 자발적으로 속도를 늦출 필요가 있다고 촉구했습니다.

재귀적 자기개선: 인간의 개입 없이 AI가 스스로 성능을 개선해 나가는 단계를 뜻합니다.