처음 던진 질문
“사용자의 명령 없이도 스스로 배우고 판단하는 AI를 만들 수 있을까?” Ricor는 이 질문에서 시작했습니다. 하지만 자율성은 버튼 하나로 켜지는 기능이 아니었습니다. 기억, 자기 모델, 목표 생성, 행동 권한, 결과 평가가 서로 연결되어야 했습니다.
Autonomy without evidence is performance.
Evidence without boundaries is risk.
먼저 만든 것은 제약이었다
새로운 능력을 붙이기 전에 감사 기록과 Gatekeeper를 만들었습니다. 외부 접근, 비용, 권한, 데이터 무결성을 행동의 전제 조건으로 두었습니다. 실패해도 원인을 되짚을 수 있고, 위험한 행동은 현실에 닿기 전에 멈추게 하기 위해서입니다.
실패가 남아야 학습이 된다
특히 가상매매에서는 수익 숫자만 남기지 않습니다. 어떤 시장 국면을 잘못 읽었는지, 어떤 규칙을 위반했는지, 같은 실수를 막기 위해 무엇을 바꿀지를 한 묶음으로 기록합니다. 다음 실험은 그 기록에서 출발합니다.
현재 위치와 다음 검증
PR #87은 완성 선언이 아니라 누적된 한 지점입니다. 앞으로는 장기간의 자율 학습이 실제로 성능을 개선하는지, 여러 환경에서도 결과가 재현되는지, 자기 모델이 행동 선택에 의미 있게 쓰이는지를 검증해야 합니다.
TAKEAWAY
Ricor의 포트폴리오는 “ASI를 만들었다”는 주장이 아니라, 그 목표를 향해 어떤 문제를 정의하고 어떤 증거를 쌓았는지 보여주는 기록입니다.