애플(Apple) 연구진: AI 모델 추론능력 한계 확인, AGI 도전 과제

- 애플(Apple) 연구진, AI 모델 추론 능력 근본적 한계 지적 - 챗지피티(ChatGPT)·클로드(Claude), 복잡 문제서 정확도 급락 애플(Apple) 연구진은 올해 6월9일 "생각의 환상(The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity)"이라는 논문을 발표했다. 이 논문에서 그들은 현재 AI 모델들이 인간 수준의 AGI에 도달하기에는 추론 능력에 상당한 한계가 있다고 지적했다. 이 연구는 AGI 달성에 있어 중요한 단서를 제공한다. 09일(UTC) 코인텔레그래프(Cointelegraph)는 이 논문에 대해 보도했다. 연구진은 논문에서 AI 모델의 평가 방식이 주로 정답 정확도에 초점을 맞추어 모델의 실제 추론 과정을 제대로 파악하지 못한다고 지적했다. 또한, 애플 연구진은 오픈에이아이(OpenAI)의 챗지피티(ChatGPT) 및 앤트로픽(Anthropic)의 클로드(Claude)와 같은 LLM을 대상으로 다양한 퍼즐 게임을 통해 테스트를 진행했다. 테스트 결과, 최첨단 LLM들은 특정 수준 이상의 복잡한 문제에 직면하면 정확도가 급격히 떨어졌다. 또한, 이 모델들은 학습한 내용을 효과적으로 일반화하여 새로운 문제에 적용하는 능력이 부족했다. 따라서 연구팀은 LLM이 표면적으로 추론 패턴을 모방하는 듯 보이지만, 이를 내재화하거나 일반화하지는 못한다고 결론지었다. 특히 일부 모델에서는 '과도한 생각' 경향이 관찰되었다. 이 모델들은 정답을 초기에 도출하고도 불필요하게 추가적인 추론 과정을 거치다가 오류로 이어졌다. 이러한 결과는 현재 AI 기술이 AGI 수준의 일반화된 추론 능력을 갖추는 데 근본적인 장벽이 있을 수 있음을 시사한다. 이러한 연구 결과는 AI 업계 리더들의 예측과는 상반된다. 예를 들어 오픈에이아이의 CEO 샘 알트만(Sam Altman)이나 앤트로픽의 CEO 다리오 아모데이(Dario Amodei) 등은 AGI가 수년 내에 도래할 것이라고 예측했다. 한편, 올해 6월 국내 IT 업계에서도 네이버(Naver), 업스테이지(Upstage), SKT 등이 자체 추론 모델을 공개하며 AGI로의 진전을 목표로 한다. 그리고 딥러닝(Deep Learning)의 한계를 넘기 위해 '프로그램 합성'과 같은 새로운 접근법을 시도하는 움직임도 주목된다. 올해 6월10일(UTC) 00시 기준, 오픈에이아이의 챗지피티 및 앤트로픽의 클로드가 포함된 LLM들에 대한 다양한 퍼즐 테스트 결과가 발표되었다. 이 결과는 시장의 관심을 끌며, 관련 토큰들의 가치에도 영향을 미칠 것으로 예상된다. 연구진은 이번 연구를 통해 현재 AI 모델이 지닌 한계와 이를 극복하기 위한 방향을 제시하는 중요한 자료를 제공했다.