• 목록

$%해선DB판매]◀텔레DaisoDB 수학 추론부터 거짓 논리 조작까지…AI 실시간 '생각 회로' 추적 실험 결과 공개앤트로픽이 자사 인공지능(AI) 모델 '클로드'의 내부 회로를 추적한 결과, 모델이 실제로 미리 계획해 글을 쓰고 언어를 초월해 사고하며 그럴듯한 거짓 논리를 만들어낸다는 사실이 확인됐다. AI가 생각하는 과정이 단순 예측이 아니라 복잡한 개념 회로의 작동 결과라는 점에서 모델의 사고 메커니즘이 시각적으로 처음 입증된 셈이다.30일 업계에 따르면 앤트로픽은 최근 'AI 현미경'이라 불리는 해석 기법을 통해 '클로드 3.5 하이쿠' 모델의 내부 연산 회로를 시각화한 두 편의 연구 논문을 발표했다. 이 방법은 언어모델의 '생각 과정'을 신경망 수준에서 추적해 실제로 어떤 개념이 활성화되고 어떤 경로로 답이 생성되는지를 보여준다.연구에 따르면 클로드는 단순히 직전 단어를 예측하는 것이 아니라 몇 단어 이상을 미리 생각하며 문장을 짓는다. 일례로 "그랩 잇(grab it)"으로 끝나는 문장 다음 줄에서 "래빗(rabbit)"과 같은 라임을 미리 떠올린 뒤 그 단어로 끝나도록 문장을 구성하는 식이다. 이 '계획'은 실험을 통해 인위적으로 바꿔볼 수 있었으며 이에 따라 다른 라임으로 문장이 바뀌는 것도 확인됐다.앤트로픽이 자사 인공지능(AI) 모델 '클로드'의 내부 회로를 추적한 결과, 모델이 실제로 미리 계획해 글을 쓰고 언어를 초월해 사고하며 그럴듯한 거짓 논리를 만들어낸다는 사실이 확인됐다. (사진=앤트로픽)'클로드'의 다국어 능력도 이와 유사한 메커니즘에서 비롯된 것으로 밝혀졌다. 영어, 프랑스어, 중국어 등 서로 다른 언어로 "작은 것의 반대말은 무엇인가"라는 질문을 해도 '클로드'는 공통된 개념 회로를 먼저 활성화하고 이를 각 언어로 '번역'해 내놓는 식이었다. 세 언어에 걸쳐 공통 회로가 작동한다는 건 '언어 이전의 개념 공간'이 존재한다는 뜻이다.간단한 덧셈 문제처럼 보이는 수학 계산도 단순 암기나 공식 적용이 아닌 복잡한 병렬 연산을 통해 해결됐다. 예를 들어 '36+59'라는 문제를 풀 때는 한쪽 회로에서 대략적인 합을 추산하고 다른 쪽에서는 '6+9'처럼 뒷