AI 연구자 22명, '지능 폭발' 가능성 경고…정부 대비 촉구

세계적인 인공지능(AI) 전문가 22명이 '지능 폭발'이 발생할 수 있다고 경고했습니다. 이들은 AI 시스템에 대한 통제력을 잃으면 인류가 소외나 멸망에 이를 수도 있다고 주장하며 정부의 대비를 촉구했습니다.

AI 연구자 22명이 공동 논문을 9월 28일(현지시간) 발표했습니다. 토론토대 제프리 힌턴 명예교수와 몬트리올대 요슈아 벤지오 교수도 공동 저자로 이름을 올렸습니다. AI가 AI 연구개발(R&D)을 맡게 되면 '지능 폭발'이 발생할 수 있다고 이 논문은 경고했습니다. 이들은 최악의 경우 인간이 AI 시스템에 대한 통제력을 잃으면 인류의 소외나 멸망으로 이어질 수도 있다고 주장했습니다. 경향신문에 따르면 이들은 AI 기업이 연구 자동화 지표 등을 보고하도록 각국 정부가 의무화해야 한다는 의견을 냈습니다. 이들은 AI 기업 내부에 독립적인 제3자 감시 인력을 배치해 R&D 활동을 감시·감독하는 방안도, 통화감독청(OCC)과 원자력규제위원회(NRC)의 감독 모델을 참고해 제안했습니다. 논문은 CASP, 곧 영국 케임브리지대 AI 과학·정책 프로그램을 통해 발표됐습니다. AI 기업 소속으로는 던 송 메타 AI 연구 담당 부사장, 에릭 호비츠 MS 최고과학책임자(CSO), 잭 클라크 앤트로픽 공동창업자, 야쿠프 파호츠키 오픈AI 수석과학자가 이름을 올렸습니다.

지능 폭발: AI가 AI 연구개발까지 맡으면서 수년 걸리던 기술 진보가 수개월로 압축되는 현상을 가리키는 말입니다.