전체 글 38

AI가 쓴 문서를 다른 AI에게 점검시켰더니 없는 판례가 나왔습니다

지난 화에서 걸러냈다고만 적은 것 지난 화 마지막에 저는 이렇게 적었습니다. 그때는 변호사 없이도 내가 할 수 있겠다는 자신도 생겼습니다. 같은 화 끝에 한 가지를 남겨뒀습니다. AI가 만들어 준 초안 안에, 실제로는 있지도 않은 것이 섞여 있었다는 이야기였습니다. 그건 보내기 전에 걸러냈다고만 적고 넘어갔습니다. 그 있지도 않은 것은 판례였습니다. AI가 만들어 낸, 세상에 없는 판례였습니다. 이번 화는 그 문서를 만드는 동안 있었던 일입니다. AI가 쓴 문서를 다른 AI에게 점검시켰습니다 당시 제가 문서를 만들던 방식은 이랬습니다. 먼저 AI에게 문서를 쓰라고 시킵니다. 그렇게 나온 문서를 챗GPT와 제미나이에 각각 넣고, 이 문서를 점검해 보라고 시킵니다. 한 곳에서 나온 결과를 그대로 쓰지 않고 ..

Logical Log 2026.08.21

대화 기억과 AI 환각을 한 흐름으로 묶어 특허를 출원했습니다

AI와 여러 번 주고받는 대화를 하다 보면, 앞에서 분명히 말해 둔 내용을 AI가 붙들지 못하는 순간이 옵니다. 문제는 거기서 끝나지 않습니다. 기억이 비었다고 말하는 대신, 빈자리를 그럴듯한 내용으로 채워서 대답합니다. 저는 이 둘을 따로 떨어진 문제로 보지 않았습니다. 제대로 기억하지 못한 상태 위에서 추론을 하니까 없는 얘기가 나온다고 봤습니다. 그래서 특허를 하나 출원했습니다. 대화 기억을 관리하는 일과 없는 얘기를 걸러내는 일을 한 줄기로 묶은 설계입니다. 2026년 3월에 출원해 7월에 공개됐고, 아직 등록 전입니다. 오늘은 그 설계가 어떻게 생겼는지 쉬운 말로 적어 두려 합니다. 기억을 관리하는 기술과 환각을 막는 기술은 따로 자랐습니다 용어를 하나 풀어 두겠습니다. 환각은 AI가 사실이 아..

특허 노트 2026.08.19

AI에게 법률 문서를 처음 맡겼을 때 벌어진 일

문서는 결국 제가 써야 했습니다 지난 화에서 저는 변호사 없이 혼자 가보기로 했다고 적었습니다. 그 결심에는 당연한 뒷일이 딸려 있었습니다. 대리인을 두지 않기로 한 이상, 상대에게 보낼 문서도 제가 써야 했습니다. 머리로는 알고 있었습니다. 그런데 막상 빈 화면을 열어놓고 앉으니 첫 문장이 나오지 않았습니다. 난생처음 써 보는 문서였습니다 제가 AI에게 처음 맡긴 법률 문서는 상대측 대리인에게 보낼 내용증명이었습니다. 내용증명은 어떤 내용의 문서를 언제 발송했는지를 우체국이 증명해주는 제도입니다. 등기로 나가기 때문에 상대가 언제 받았는지는 배송조회로 확인할 수 있습니다. 다만 적어 보낸 내용이 진실이라는 것까지 증명해주지는 않습니다. 제도 설명 자체는 검색하면 금방 나옵니다. 문제는 그 안에 무슨 말..

Logical Log 2026.08.19

여러 AI 세션을 굴리면 '미해결 장부'가 필요해집니다

AI 세션을 여러 개 띄워 놓고 일하면, 각 세션은 자기 앞의 일만 봅니다. 그래서 사고는 대개 세션 안이 아니라 세션과 세션 사이에서 납니다. 앞 세션이 무엇을 결정했는지, 무엇을 하다 말았는지 뒤 세션은 알지 못합니다. 저는 그 틈에 떨어지는 것들을 모으는 장부를 하나 두고 있습니다. 넉 달쯤 굴렸고 지금은 1,600줄이 넘습니다. 오늘은 그 장부가 어떻게 생겼는지, 그리고 처음 적어 둔 규칙이 넉 달 뒤에 실제로 어디까지 지켜져 있었는지를 세어 본 이야기를 적어 두려 합니다. 제품 사이에 걸친 문제는 어느 문서에도 안 들어갑니다 혼자 AI로 여러 제품을 만들다 보면 세션이 자연스럽게 쪼개집니다. 제품마다, 작업 성격마다 따로 엽니다. 문제는 각 세션이 자기 창문만 본다는 데 있습니다. 한 제품을 손..

파운더 노트 2026.08.18

AI 개발팀을 위한 '에러 매뉴얼' 만드는 법

혼자서 AI에게 개발을 맡기면 코드는 제 손보다 훨씬 빠르게 늘어납니다. 문제는 그 다음입니다. 어느 날 화면에 에러가 뜨면, 저도 AI도 어디부터 열어야 할지 모르는 상태가 됩니다. 그래서 저는 AI 코딩 에러 대응 문서화를 따로 설계했습니다. 사고가 났을 때 AI가 스스로 원인이 있을 만한 자리를 찾아가도록 만든 문서입니다. 지금은 프로젝트 다섯 개 중 네 개, 모듈 마흔 개 남짓이 이 방식으로 정리되어 있습니다. 전에 병합 전 품질 게이트를 다룬 글을 쓴 적이 있습니다. 그 글은 코드가 합쳐지기 전에 거르는 장치였고, 오늘 글은 이미 돌아가는 코드에서 사고가 난 뒤를 다룹니다. 시점이 정확히 반대편입니다. 사고가 났을 때, AI도 어디부터 봐야 할지 모릅니다 사람으로 이루어진 개발팀이라면 "그건 결..

파운더 노트 2026.08.14

Next.js 16에서 middleware가 proxy로 바뀌었습니다: 마이그레이션과 조용히 빠지는 인증 주의점

프레임워크가 어느 날 파일 이름을 바꾸면, 혼자 제품을 만드는 사람은 그걸 어떻게 따라가야 할까요. 저는 제품 프론트엔드를 Next.js로 만들고 있습니다. 그래서 Next.js 16이 나오면서 나온 여러 변경 중에서도 middleware를 proxy로 바꾼 개편은 그냥 지나칠 수가 없었습니다. 이름만 바뀐 사소한 변경처럼 보이지만, 마이그레이션을 어중간하게 끝내면 인증이 소리 없이 비어 버릴 수 있습니다. 오늘은 공식 문서를 직접 확인하며 정리한 내용을 남깁니다. 무엇이 바뀌었나 Next.js 16(정식 릴리스 2025년 10월 21일)부터 middleware.ts 파일 컨벤션이 지원 중단(deprecated)되고 proxy.ts로 이름이 바뀌었습니다. 기존 이름이 곧바로 없어진 것은 아니고 하위 호환..

파운더 노트 2026.08.01

Meta-Harness: AI 에이전트가 자기 하네스를 스스로 다시 짜기 시작했습니다

저는 그동안 하네스를 손으로 다뤄 왔습니다. 여기서 하네스(harness)란 AI 모델을 실제로 굴리는 바깥 구조물을 말합니다. 프롬프트를 어떻게 조립할지, 컨텍스트에 무엇을 넣고 뺄지, 과거 기록을 어떻게 기억하게 할지 같은 것들입니다. 같은 모델이라도 이 구조물을 어떻게 짜느냐에 따라 성능이 크게 갈립니다. 이 블로그의 하네스 시리즈는 줄곧 "그래서 하네스를 어떻게 잘 설계하느냐"를 다뤄 왔습니다. 그런데 최근에 읽은 논문 한 편이 그 전제를 흔들었습니다. 하네스를 잘 설계하는 법이 아니라, 하네스를 설계하는 일 자체를 에이전트에게 맡기는 연구였습니다. 오늘 글은 제가 이 논문을 직접 돌려 본 결과가 아니라, 공개된 논문과 자료를 바탕으로 정리한 해설입니다. 다만 손으로 하네스를 튜닝해 온 사람으로서..

파운더 노트 2026.08.01

AI 에이전트로 1인이 5명 몫을 한다는 말, 실제로는 편성 문제였습니다

"에이전트 18개"라는 숫자부터 의심했습니다 요즘 1인 창업 이야기에는 숫자가 따라다닙니다. 맥미니 한 대에 AI 에이전트 18개를 붙여 월 50~100달러로 반복 업무의 70~80%를 처리한다는 사례(markcijo.ai), 에이전트 14개를 월 100~780달러로 굴리면서 60~80%는 무료 로컬 모델에 넘긴다는 사례(Stakh)가 자주 인용됩니다. 숫자만 보면 대단합니다. 그런데 자료를 찾아보면서 제가 가장 먼저 확인한 것은 출처였습니다. 두 사례 모두 개인 블로그와 링크드인 글에 근거하고 있고, 제가 찾아본 범위에서는 제3자가 독립적으로 검증한 기록을 확인하지 못했습니다. 참고로 볼 수는 있어도 목표치로 삼기에는 근거가 얇았습니다. 제 실제 숫자를 먼저 말씀드리겠습니다. 지금 동시에 굴리는 에이전..

파운더 노트 2026.07.29

하네스 성능 13.7p, 흔히 뭉뚱그리는 두 숫자를 해부했습니다

이 두 숫자, 사실 다른 실험입니다 먼저 밝혀 둡니다. 아래 이야기는 제가 직접 돌린 실험 결과가 아닙니다. 공개된 기술 블로그와 벤치마크, 리서치 자료를 찾아 읽고 정리한 것입니다. 나오는 수치는 모두 그 자료에 있는 값이고, 제가 지어낸 숫자는 하나도 없습니다. AI 에이전트 이야기를 하다 보면 ‘하네스만 바꿔도 성능이 크게 달라진다’는 말이 자주 나옵니다. 그 근거로 두 숫자가 거의 항상 짝지어 등장합니다. 하나는 ‘순위가 33위에서 5위로 올랐다’, 다른 하나는 ‘점수가 13.7포인트 올랐다’입니다. 그런데 이 둘은 같은 실험이 아닙니다. 모델도 다르고, 재는 방식도 다르고, 하려는 이야기도 다릅니다. 한 문장에 묶어 인용하면 사실이 뭉개집니다. 여기서 하네스(harness)는 모델 자체를 뺀 나..

특허 노트 2026.07.28

법률 AI Harvey는 왜 110억 달러가 됐을까, 버티컬 AI와 도메인 특화 하네스

같은 하네스 기술인데, 법률 한 분야에서 110억 달러가 됐습니다 먼저 밝혀 둡니다. 아래 이야기는 제가 직접 겪은 일이 아닙니다. 공개된 뉴스와 시장 분석 자료를 찾아 읽고 정리한 것입니다. Harvey 관계자를 만난 적도, 내부 사정을 들은 적도 없습니다. 시장을 읽고 제가 방향을 정하는 근거로 삼은 자료입니다. Harvey라는 회사가 있습니다 Harvey는 2022년에 세워진 법률 AI 회사입니다. 창업자는 전직 변호사(Winston Weinberg)와 전직 DeepMind 연구자(Gabe Pereyra) 두 사람입니다. 2026년 3월에 발표된 투자 라운드 기준으로, 이 회사의 몸값(밸류에이션)은 110억 달러로 매겨졌습니다. 이번 라운드에서만 2억 달러를 새로 받았고(GIC와 Sequoia가 공..

파운더 노트 2026.07.28