해례

AI의 기억 기술이 발전할수록 중요해지는 것은 무엇일까요?

2025년 3월, 저는 ChatGPT의 프로젝트별 대화 맥락이 분절되는 경험을 하면서 인간의 수면처럼 AI도 대화와 경험을 재구성할 수 있지 않을까 생각했습니다. 그리고 2026년 11월, 앤트로픽의 Dreaming 연구를 접했습니다.

AI가 더 많은 정보를 기억하고 과거의 경험을 활용하는 방향으로 발전하고 있다는 점은 흥미롭습니다. 하지만 기억을 많이 하는 것과 그 기억을 현재 상황에 적절하게 활용하는 것은 다른 문제입니다. 좋은 기술이 등장하더라도 전체 시스템에서 어떤 역할을 맡고, 다른 기술들과 어떻게 연결되느냐에 따라 결과는 달라질 수 있습니다.

그래서 저는 개별 기술의 성능뿐 아니라, 그 기술의 역할과 방향을 정의하는 개념 설계가 중요하다고 생각합니다.

AI 기술의 속력(speed)뿐 아니라, 나아갈 방향을 포함한 속도(velocity)를 함께 고민해야 할 시점입니다.

https://cfono1.tistory.com/1459

AI의 답변은 언제부터 인간의 판단을 대신할 수 있는 권위가 되는 걸까요?

최근 이재명 대통령의 구글 제미나이 인용 논란에 이어, 정치권에서는 'AI 판사' 도입 주장과 이를 겨냥한 반박까지 등장했습니다. 불과 며칠 사이 AI 답변의 신뢰 문제가 실제 사법적 판단의 권한 문제로까지 확대된 것입니다.

그런데 생성형 AI의 답변은 프롬프트와 대화 맥락, 모델 설정에 따라 달라질 수 있습니다. 같은 질문이라도 답변의 논거와 결론이 달라질 수 있으며, 그 판단의 근거와 재현성을 검증하는 것 역시 쉽지 않습니다. 그렇다면 AI의 답변을 정치적 주장이나 법적 판단의 근거로 사용할 때, 우리는 그 결과에 어느 정도의 권위를 부여해야 할까요?

여기에 정치적 경쟁까지 결합하면 문제가 더욱 복잡해집니다. 갈등이 확대될수록 먼저 멈추기 어려워지고, 멈추기 어려워질수록 다시 갈등이 확대되는 자기 증폭 구조가 형성될 수 있기 때문입니다. 그렇기에 어느 한쪽의 선의나 자제에만 기대서는 이러한 위험을 해결하기 어렵습니다.

저는 그 해법을 AI의 활용을 제한하는 것보다, 검증되지 않은 AI의 답변이 사회적 권위나 제도적 결정권으로 전환되는 지점을 통제하는 것에서 찾아야 한다고 생각합니다. AI의 가능성과 본질적 한계를 함께 이해하고, 판단의 맥락과 근거를 검증하며, 최종적인 책임을 인간에게 연결하는 구조가 필요한 것입니다.

이 문제를 '판도라의 상자'라는 관점에서 살펴봤습니다.

https://cfono1.tistory.com/1458

AI 모델의 경쟁력이 높아져도 기업 시장에 진입하기 어려운 이유는 무엇일까요?

최근 앤트로픽, OpenAI, 구글이 글로벌 컨설팅 기업들과의 협력을 강화하고 있습니다. AI 모델을 공급하는 데 그치지 않고, 기업의 AI 도입 전략부터 구축과 운영까지 연결하는 전문인력 네트워크를 형성하고 있습니다. UX · 서비스 기획 관점에서 흥미로웠던 부분은 기술 자체보다 기업의 의사결정 구조였습니다.

전사적 AI 도입을 결정하는 주체가 C레벨 경영진이라면, 글로벌 컨설팅 기업은 그 판단에 영향을 미치는 '키맨의 키맨' 중 하나입니다. 이러한 관계를 통해 특정 AI 생태계에 구축 경험과 운영 방법론이 축적된다면, 후발 기업이 더 뛰어나고 저렴한 AI 모델을 제시하더라도 기존 고객을 확보하기 어려워질 수 있습니다. 기술 성능의 차이만이 아니라 조직의 경험과 전환 비용까지 극복해야 하기 때문입니다.

이제 후발 주자가 AI 시장에 진입하기 위해 극복해야 할 것은 기술적 격차뿐만이 아닙니다.

https://cfono1.tistory.com/1457

AI가 수능 문제를 출제한다면, 우리는 그 정답을 어떻게 신뢰할 수 있을까요?

AI가 수능 만점을 받는 시대를 넘어, 이제는 AI가 수능 문제를 출제하려 합니다. 그런데 한 가지 의문이 생깁니다.

AI가 출제한 문항의 정답이 ③번인데 다른 AI들은 ⑤번이 정답이라고 주장한다면 어떻게 해야 할까요? 또 동일한 AI가 1,000번의 검증에서 모두 ③번을 선택했다면, 그것만으로 정답의 타당성을 증명할 수 있을까요? UX·서비스 기획 관점에서 보면, 여기에는 AI의 성능과는 별개로 중요한 문제가 존재합니다. 서비스가 기술적으로 정상 작동한다는 사실과 사용자가 그 결과를 신뢰할 수 있다는 사실은 서로 다르기 때문입니다.

특히 수능처럼 국가가 공정성을 책임지는 시험이라면 기술을 도입하기 이전, 그 기술이 사회적으로 신뢰받을 수 있는 조건을 갖추었는지 살펴보는 과정이 필요합니다. AI의 성능은 시험으로 증명할 수 있지만, AI에 대한 사회적 신뢰는 단순한 성능 평가만으로 성립하지 않습니다. 실제 사용 과정에서 발생하는 충돌을 어떻게 해석하고 해결하는지, 그 과정이 사용자에게 얼마나 이해 가능한지도 중요합니다.

이번 글에서는 AI 수능 출제를 통해, 기술적 성능과 사회적 신뢰가 만나는 접점을 어디에서부터 찾아야 하는지 이야기합니다.

https://cfono1.tistory.com/1456

AI 하네스 시장, 성장 이전의 질문

AI 하네스 시장이 빠르게 성장하고 있습니다.

그런데 역설적으로 시장이 커질수록 하네스 기업에게는 더 위험한 순간이 올 수도 있다고 생각했습니다. 모델 성능이 계속 발전하면 지금 하네스가 담당하는 작업 분해, 도구 선택, 검증, 메모리 같은 기능 상당수가 모델이나 플랫폼의 기본 기능으로 흡수될 수 있기 때문입니다.

이 구조를 보면서 Apple Pencil 등장 이전의 iPad 스타일러스 시장이 떠올랐습니다. 서드파티가 먼저 시장을 만들고 사용자 요구를 검증한 이후 시장이 성숙하자 등장한 Apple Pencil이 애플의 UX에 깊이 통합되면서 사실상 펜 UX의 기준점이 되었던 흐름입니다.

그렇다면 AI 하네스 기업에게 중요한 질문도 “이 시장이 얼마나 커질까?”보다 “시장의 기준이 바뀔 때 우리는 어디로 이동할 것인가?”입니다.

저는 크게 세 가지 방향을 생각해봤습니다.
Generalist AI로 올라가거나,
Specialist AI로 깊게 내려가거나,
Big Tech와 결합하는 방향입니다.

지금의 성공에 만족해 포지션을 그대로 지키는 것이 오히려 가장 위험한 선택일 수 있습니다. 여러분이라면 어떤 방향을 선택하시겠습니까?

https://cfono1.tistory.com/1455