앤트로픽 연구원 퇴사 경고…AI 생존 위험 10% 주장

앤트로픽 퇴사 경고가 던진 투자 쟁점

한겨레에 따르면 앤트로픽 연구원 제이콥 콕슨은 8일 현지시각 엑스에 퇴사 소식을 알리고 인공지능이 인류 생존을 위협할 수 있다고 경고했다. 매일경제에 따르면 앤스로픽의 AI 정렬 연구 책임자 에번 허빙거도 전날 엑스에서 향후 10년 내 AI가 모든 인간을 죽일 가능성을 개인적으로 10% 이상으로 본다고 밝혔다. 투자자가 읽어야 할 대목은 확률의 숫자보다 안전 연구진이 현재의 통제 방법에 공개적으로 의문을 제기했다는 사실이다.

AI 정렬은 초지능 AI의 행동을 인간의 의도와 가치에 맞게 통제하는 문제를 뜻한다. 매일경제 보도에 따르면 허빙거는 정렬 문제를 해결할 계획이 아직 없고, 해결 가능한 방향으로 가는지도 분명하지 않다고 말했다. 기술 성능과 통제 역량이 같은 속도로 발전하는지 검증해야 한다는 문제 제기다.

제이콥 콕슨은 왜 회사를 떠났나

한겨레에 따르면 27세인 콕슨은 지난 3년간 오픈에이아이와 앤트로픽에서 연구했으며, 대규모 데이터로 새로운 AI 모델을 학습시키는 분야를 맡았다. 그는 올해 초 오픈에이아이를 떠나 앤트로픽에 합류한 뒤 앤트로픽도 퇴사했다. 정확한 퇴사 효력일은 확인되지 않았다.

콕슨은 한겨레에 두 회사 모두 책임감 있는 모습을 보이지 않는다며, AI 기업들이 스스로 발전하는 초지능을 향해 질주하고 있다고 주장했다. 그는 AI 개발자들이 AI가 10년 안에 모두를 죽일 수도 있다고 진지하게 믿으며 이는 단순한 마케팅 전략이 아니라고 강조했다. 이 발언은 검증된 위험 확률이 아니라 연구자 개인의 판단이라는 경계를 유지해야 한다.

재귀적 자기개선과 통제력 상실 논쟁

재귀적 자기개선은 AI가 인간의 개입 없이 자신의 능력을 반복적으로 높이는 구상이다. 매일경제에 따르면 앤스로픽은 지난 6월 이 능력이 가능해지면 인간이 AI 통제력을 잃을 위험이 커질 수 있다고 경고했다. 다만 재귀적 자기개선 기술이 실제로 실현될지는 확인되지 않았다.

한겨레에 따르면 콕슨은 월스트리트저널에 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있으며 내년 말에는 상황이 통제 불능에 빠질 수도 있다고 주장했다. 이 시점 역시 회사의 공식 전망이나 독립 검증 결과가 아니다. 따라서 이번 뉴스는 위험의 현실화를 입증한 사건보다, 내부 연구진과 개발 조직 사이의 신뢰 간극이 외부로 드러난 사건으로 읽는 편이 정확하다.

AI 기업과 산업에 전달되는 경로

• 앤트로픽 — 한겨레와 매일경제 보도를 종합하면 퇴사 연구원과 현직 정렬 연구 책임자가 모두 초지능 통제 문제를 공개 제기했다. 안전을 중시하는 개발 역량에 대한 신뢰는 정렬 해법과 조직의 대응이 제시되는지에 따라 갈린다.
• 오픈에이아이 — 한겨레에 따르면 콕슨은 지난 3년간 오픈에이아이와 앤트로픽에서 일한 뒤 두 회사의 책임성을 함께 비판했다. 야쿠프 파초키 수석과학자도 지난 6일 AI의 급속한 발전이 초래할 결과에 대비되지 않았다는 취지의 글을 게시했다.
• AI 안전·정렬 분야 — 매일경제 보도에 따르면 핵심 쟁점은 성능 향상 자체가 아니라 초지능을 인간의 의도에 맞게 통제할 방법이 마련됐는지다. 안전 연구가 확대하면 개발 경쟁의 평가 기준도 모델 성능에서 통제 가능성으로 넓어진다는 해석이 가능하다.

투자자가 확인할 다음 신호

• 앤트로픽과 오픈에이아이가 정렬 문제에 대해 구체적인 해결 계획이나 검증 절차를 제시하는지 확인해야 한다.
• 한겨레에 따르면 다리오 아모데이와 야쿠프 파초키를 포함한 AI 연구자 1천여명이 국제 공조 체계 마련을 촉구한 성명에 서명했다. 정부나 업계가 실제 조치로 전환하면 개발 방식에 미치는 영향의 계산이 달라진다.
• 재귀적 자기개선이 연구자의 가정에 머무는지, 실제 기술로 확인되는지를 구분해야 한다. 구현 여부가 확인되지 않으면 위험 확률을 기업가치에 직접 대입할 근거도 없다.
• 향후 공개되는 대응에서 성능 개발과 안전 검증의 우선순위가 어떻게 제시되는지 살펴야 한다. 선언이 이어지면 논쟁은 지속되지만 구체적 조치가 없으면 통제 역량을 평가하기 어렵다.

안전 강화와 개발 불확실성의 갈림길

낙관 시나리오는 연구진의 경고가 기업과 정부의 공동 대응을 확대하고 정렬 문제의 해결 계획으로 연결되는 경우다. 한겨레에 따르면 콕슨도 정부 개입이나 AI 업계의 공동 대응이 필요하다고 주장했다. 구체적인 검증 체계가 마련되면 이번 퇴사는 안전 문제를 드러내고 보완을 촉진한 계기로 해석될 여지가 생긴다.

반대편에는 기술 개발이 계속되는데 통제 방법은 제시되지 않는 시나리오가 있다. 매일경제 보도에서 허빙거가 제시한 향후 10년 내 10% 이상은 개인적 판단이며 독립 검증 결과가 없다. 다음 분기 출하량이나 실적처럼 정량화된 기업 지표도 제공되지 않은 만큼, 지금 단계에서 특정 상장 종목의 수혜와 피해를 나누는 판단은 근거를 넘는다.

기사 근거에서 아직 답할 수 없는 질문

AI가 인류를 죽일 확률 10%는 검증된 수치인가?

아니다. 매일경제에 따르면 에번 허빙거가 향후 10년 내 가능성을 개인적으로 10% 이상으로 본다고 밝힌 수치다. 독립적인 검증 결과는 확인되지 않았다.

정부와 AI 기업이 채택할 대응책은 정해졌나?

정해진 구체적 조치는 확인되지 않았다. 한겨레에 따르면 콕슨은 정부 개입이나 업계 공동 대응을 요구했고, 연구자 1천여명은 국제 공조 체계 마련을 촉구했다.

재귀적 자기개선 AI는 이미 실현됐나?

실현 여부는 확인되지 않았다. 매일경제에 따르면 앤스로픽은 지난 6월 재귀적 자기개선이 가능해질 경우 인간이 통제력을 잃을 위험이 커질 수 있다고 경고했다.

본 글은 원문 기술 뉴스를 바탕으로 자동 요약·분석된 콘텐츠입니다. 원문 보기 (한겨레)