앤스로픽, 액센츄어와 5년 20억 달러…AI ‘임베디드 평가자’ 첫 도입

- AI 안전성, 외부 독립 평가 첫 시도 - 5년간 20억 달러 공동 투자 20일(현지시각) CNBC에 따르면 인공지능(AI) 스타트업 앤스로픽(Anthropic)이 AI 개발 전 과정의 안전성 관리를 위해 글로벌 컨설팅사 액센츄어(Accenture)를 ‘임베디드 평가자’로 공식 선정했다. 이번 파트너십은 AI 기술 현장에 외부 독립 전문가가 실시간으로 투입돼, 내부 직원과 동등한 수준의 접근 권한으로 모델의 안전성, 윤리성, 정렬성 등 핵심 요소들을 직접 검증·감시하는 세계 첫 시도다. 액센츄어는 자사의 AI 전문 사업부인 ‘액센츄어 AI(AI Practice)’와 함께 모델 모니터링, 레드팀 테스트, 보안 시스템 실험 등 폭넓은 안정성 점검 업무를 맡는다. 양사는 5년간 각 10억 달러씩 총 20억 달러를 공동 투자한다. 앤스로픽은 초기 평가자 프로그램에 자금을 직접 지원하고, 향후에는 정부, 공동기금 등 다양한 장기 자금 조달 모델도 모색할 계획이라고 밝혔다. 본 협업은 독점이 아니다. 따라서 향후 앤스로픽은 METR 등 연구 비영리기관 등 추가 외부 독립 감독기관 도입도 추진한다. 20일(현지시각) 앤스로픽 창업자이자 CEO 다리오 아모데이(Dario Amodei)는 “이해관계로부터 독립된 전문가가 AI 개발 실무에 상시 참여해, 기업 내부의 안전성 실행 현황을 실시간으로 감시·보고하는 첫 실질 시스템”이라고 의미를 강조했다. 이번 결정은 AI 산업에 요구되는 규제, 투명성, 사회적 책임이 크게 강화되는 추세에서, 기술 기업이 자발적으로 외부 독립 감독 체계를 도입해 개발 단계부터 감독과 책임 이행을 강화하는 신호로 평가된다. 또 2026년 9월20일 기준 글로벌 시장에서는 앤스로픽과 액센츄어의 대규모 투자와 독립 감시 체계 최초 도입이 공개된 이후, 다른 AI 기업 내에서도 안전성 강화와 투명성 확산 움직임이 가속화되고 있다. 이번 임베디드 평가자 도입은 AI 기술이 사회 전반에 미칠 영향력과 위험성을 통제할 수 있는 실질적 자율감독 모델의 ‘표준화’ 가능성까지 제기하며, AI 생태계의 책임 있는 진화 방향을 가늠케 한다.