다음 달부터 클로드 구독을 220달러에서 110달러로 줄이게 되었다. 올 3월에 모든 일을 LLM에 맡기자는 생각으로 110달러 요금제를 사비로 쓰다가 5월부터 구독료 지원을 받게 되어 220달러를 쓰고 있었다. 토큰에 제약이 없다고 가정하고 최대한 의존도를 높였고, 현재에도 주간 사용량 80% 정도로 꽤 고강도로 쓰고 있다고 생각한다. 그 동안 기존에 할 수 없었던 일을 할 수 있게 되거나 할 수 있었던 일도 짧은 시간에 끝낼 수 있게 된 것은 사실이지만, 정작 중요한 일에 있어서는 생산성이 늘지 않았다. 블로그 글 쓰는 것도 마찬가지이다. 글을 써야겠다는 생각이 드는 순간들이 있어서 막상 제목을 적어 놓고 보면, 생각의 편린들이 의식의 흐름이나 단어로만 나오고 구조화된 개요로 작성하려고 하니 잘 안되는 것을 확인했다.
어째서 생각의 힘이 줄어들어 버린 걸까? 한 영상 (씨리얼 유튜브 영상)에서 답을 얻었다. 내용 중에 인상 깊었던 것은 서열화, 영어로는 랭킹이다. 2026년에 널리 사용되는 AI는 맥락에 따라 중요도 가중치를 부여하는 방식을 사용한다. 전문 용어로는 어텐션(attention)이라고 한다. 더 중요한 정보를 남기고 나머지를 버린다는 관점으로, 주어진 메모리 안에서 짧은 시간에 그럴듯한 결론을 도출한다. 랭킹을 잘 매긴다는 것은 무엇이 중요한지를 잘 고른다는 얘기이고, 구조화나 요약도 같은 맥락으로 이해할 수 있다. 무엇이 중요한가? 그동안 이 부분을 LLM에 너무 많이 의존해왔던 것이다.
그렇다면 LLM에서 무엇이 중요한지는 누가 결정하는가? 영상에서는 딥러닝 결과물이 잘 됐는지를 평가하는 데에 사람 라벨러(labeler)가 들어간다는 점을 지적한다. 결국 사람이 정한다는 얘기다. 이렇게 학습된 모델은 사회 전체를 대표하지도 못할뿐더러 편견을 심을 수 있다는 것이다. 영상은 더 나아가 모델을 만드는 AI 프론티어 회사의 수장들이 스스로 우월하다는 착각에 빠져 있다고 경고한다. 이 사람들이 결정하는 방식대로 학습된 모델, 그리고 사용자가 모델에 끌려다닌다는 얘기들이 자주 나온다. 그래서 사용자가 원한 것과 LLM의 출력 결과가 일치하느냐가 문제가 되는데, 이쪽 업계에서는 이를 정렬(alignment) 문제라고 부른다.
그런데 막상 모델들의 특성을 보면 정치성향도 매우 다른 등 학습된 문화권에 따라 다르다는 것을 알 수 있다 (언더스탠딩 유튜브 영상). 정렬 수치도 여타 벤치마크 포화처럼 점점 올라가겠지만, 그 정렬을 정의하는 것도 결국 개별 기업별로 다를 것이다. 내 실 사용 경험상, 많이 쓰다 보면 결과물의 양에 압도되어 내가 원했던 결과인지에 대한 판단이 자주 흐려졌던 것 같다. 그 와중에 데이터센터 건설에 제동이 걸리는 것, NVIDIA 젠슨 황 사임, 우리나라 AI 안경 사태 같은 일련의 사건들이 누적되면서 AI의 효용과 산업 전반에 대해 비판적인 시각이 늘어나는 것도 사실이다. 지금까지 LLM의 발전을 계속 지켜봐오면서 긍정적인 효과를 체감했던 내 입장에서도 이러한 변화는 가볍지 않다고 생각한다. 개별 사용자의 정렬 문제를 해결할 수 있으면 앞으로도 인공지능 발전은 탄탄대로일 것이고, 아니라면 버블이 될 수도 있다고 생각한다.
클로드 구독 비용을 줄이게 된 점에 대해서는 구독료 지원이 끝난 것이 표면적인 이유이지만, LLM 의존성을 줄이고 생각의 힘을 되찾자는 생각도 이 결정에 한몫했던 것 같다. 이 글을 쓰는데도 아직 어시스트를 받아야 할 정도로 약해져 있는 것이 현 상태이지만, 재활에 도전해 본다.
답글 남기기