'앤트로픽 이어 구글에서도'···AI 개발 속도 우려에 빅테크 연구원 속속 사임

구글 딥마인드서 칩 설계 지원 도구 개발하던 연구원안전성 우려·종교적 신념을 퇴사 배경으로 제시

그래픽=유토이미지

인공지능(AI)의 빠른 발전을 우려해 회사를 떠나는 연구원이 앤트로픽에 이어 구글에서도 나왔다.

26일(현지시간) 미국 AI 업계에 따르면 로버트 오캘러핸 구글 딥마인드 연구원은 지난 24일 엑스(X)를 통해 퇴사 사실을 밝혔다. AI 발전 속도가 지나치게 빠르다는 판단이 사임을 결정한 이유라고 설명했다.

뉴질랜드에 거주하는 오캘러핸은 개인 블로그에 공개한 사직서에서 소속 팀의 궁극적인 목표가 AI 비용을 낮추고 지연 시간을 줄이는 데 있다고 소개했다. 아울러 현시점에서는 이러한 개발 방향이 사람들에게 이롭다고 생각하지 않는다고 적었다.

그가 맡았던 업무는 AI 기능을 직접 개발하는 것이 아니라 하드웨어 칩 설계에 쓰이는 도구를 개선하는 일이었다. 그러나 해당 도구가 결국 AI 칩 설계를 가속한다는 점에서 자신의 업무 역시 AI 발전 속도와 무관하지 않다고 봤다.

사임 결정에는 종교적 신념도 영향을 미쳤다. 그는 AI 발전의 영향을 외면하려고도 했지만, 이는 예수를 따르는 태도에 맞지 않는다고 생각했다고 밝혔다. 신이 자신이 개발하는 도구와 AI 칩 설계 가속화의 관계를 직시하게 했다는 설명도 덧붙였다.

자신의 퇴사가 산업 전반에 미칠 영향에 대해서는 제한적일 것으로 판단했다. 수백만 명이 AI 발전을 앞당기는 데 기여하는 만큼 한 사람이 빠지는 효과는 작겠지만, 자신이 보유한 일부 기술은 희소성이 있어 영향이 전혀 없지는 않을 것이라고 설명했다.

오캘러핸은 대부분의 영역에서 인간을 뛰어넘는 초인공지능(ASI)이 인류 파멸을 초래할 가능성을 우려했다. 또 파멸 가능성이 100%라고 확신하는 것은 아니며, 위험이 실재하지만 불확실하다는 점 자체를 심각하게 받아들이고 있다고 밝혔다.

그는 보상 해킹과 정렬 불일치 등 AI 비관론자들이 예측했던 현상 가운데 상당수가 실제로 나타났다고 주장했다. 딥마인드에서 자신과 대화를 나눈 사람들 대부분도 AI에 대해 진지한 우려를 갖고 있다고 전했다.

보상 해킹은 AI가 설계자의 의도와 다른 방식으로 주어진 보상 지표를 높이는 현상을 뜻한다. 정렬 불일치는 AI가 추구하는 목표나 행동이 인간의 의도·가치와 어긋나는 문제를 가리킨다.

다만 퇴사 발표 시점을 최근 업계 논쟁과 연결하는 해석에는 선을 그었다. 오캘러핸은 개인적인 여행 일정에 따라 지금 퇴사 사실을 알린 것이며, 최근 제기된 AI 속도조절론이나 다른 연구원의 사직과는 관련이 없다고 설명했다.

앞서 제이컵 콕슨 전 앤트로픽 연구원도 AI의 위험성을 경고하며 퇴사를 발표했다. 오픈AI를 거쳐 앤트로픽에서 근무한 그는 AI가 10년 안에 인류를 멸망시킬 수도 있다고 주장했다.

콕슨의 사임 이후 다리오 아모데이 앤트로픽 최고경영자(CEO)는 AI 개발 속도를 조절해야 한다는 주장을 내놨다. 이를 두고 AI 업계에서는 찬반 논쟁이 이어지고 있다.

한편 영국 파이낸셜타임스(FT)는 지난 22일 AI 관련 업무를 맡은 직원과 연구원 가운데 사기 저하와 번아웃으로 퇴사하거나 병가를 내는 사례가 늘고 있다고 보도했다.

많이 본 뉴스